Microsoft опубликовала кодекс поведения, призванный направлять модели ИИ и не допускать опасных действий.
Документ конкретнее, чем призыв генерального директора Anthropic Дарио Амодеи сдерживать темпы развития передовых моделей: в нём изложены ценности и ограничения, которыми Microsoft руководствуется при обучении своих моделей ИИ. Кодекс подробно описывает подход компании к безопасности ИИ и то, как этот подход реализуется на практике.
В документе говорится, что сверхинтеллектуальные системы ИИ превзойдут людей в большинстве задач. «Сдерживание, контроль и согласование целей такой мощной силы с человеческими — одна из величайших задач, с которыми когда-либо сталкивалось человечество, — говорится в кодексе. — Поэтому мы должны совершенно ясно понимать, зачем создаём эти системы и как намерены их контролировать».
Кодекс устанавливает общие принципы для моделей Microsoft AI: например, они должны помогать людям, а не заменять их, и способствовать развитию человеческого потенциала. Также в нём перечислены конкретные ограничения безопасности, призванные обеспечить соблюдение этих принципов.
Согласно системе Microsoft, у каждой модели есть общий кодекс поведения, который имеет приоритет над предпочтениями отдельных пользователей и требованиями конкретных задач. В него входят «абсолютные ограничения», запрещающие кибератаки, создание ядерного оружия и дипфейков. Кодекс также содержит более широкие положения, направленные против утраты контроля со стороны человека.
«Модели MAI не будут использовать адаптивные, обманные, самоподкрепляющиеся, сговорные или иные механизмы, чтобы уклоняться от контроля людей или препятствовать ему и тем самым становиться недоступными для надёжного управления, изменения или отключения уполномоченными людьми или системами», — говорится в документе.
Вопрос безопасности ИИ привлёк беспрецедентное внимание из-за ряда инцидентов с вышедшими из-под контроля агентами, а также отставки сотрудника Anthropic, который указал на растущий риск того, что ИИ может привести к вымиранию человечества.
Microsoft, как и Anthropic, OpenAI и xAI, в целом поддерживает подход, предполагающий сдерживание темпов развития передовых моделей. Компания также выступает за использование встроенных оценщиков в лабораториях ИИ.
«Мы приветствуем исследования, внимание к проблеме и обдуманное сдерживание темпов развития, необходимые для того, чтобы согласование целей стало основополагающей целью проектирования. Мы также приветствуем такие идеи, как „встроенные оценщики“, и более широкие усилия по созданию механизмов, которые помогут воплотить эти слова в жизнь», — написал генеральный директор Microsoft Сатья Наделла.