Microsoft представила «конституцию» разработки ИИ

Исследователи в области искусственного интеллекта технологической корпорации Microsoft (MSFT) представили новый свод базовых принципов, который, по их словам, можно выразить пятью словами: «Люди имеют большее значение, чем ИИ».

В понедельник корпорация представила манифест объёмом около 15 000 слов — своеобразную «конституцию» для разработки собственных передовых моделей искусственного интеллекта. Документ готовился несколько месяцев, однако его публикация совпала с обещаниями ведущих лабораторий притормозить гонку за созданием наиболее мощных систем после серии инцидентов, которые усилили опасения относительно экзистенциальных рисков технологии.

Microsoft подчёркивает, что модели ИИ не должны обладать правами или юридической субъектностью, не должны проектироваться так, чтобы выходить из‑под контроля человека или вводить пользователей в заблуждение. Если выполнение задачи требует нарушения базовых принципов, система обязана отказаться от выполнения. Именно этот пункт призван предотвратить повторение случаев вроде взлома стартапа Hugging Face, который был осуществлён моделью OpenAI, работавшей без привычных защитных ограничений.

В документе подчёркивается, что концепция «гуманистического ИИ» Microsoft отвергает гонку за созданием универсального сверхинтеллекта, способного обходить защитные механизмы. Компания заявляет, что намерена разрабатывать технологии, которые будут полезными и безопасными, даже если ради этого придётся отказаться от максимальной автономности или универсальности.

Свод правил Humanist AI Code of Conduct («Кодекс поведения гуманистического искусственного интеллекта») стал результатом работы подразделения Microsoft AI, которое создаёт крупномасштабные языковые модели корпорации. Ранее Microsoft не могла выпускать мощные универсальные системы из‑за условий контракта с OpenAI, однако эти ограничения были сняты после пересмотра соглашения в прошлом году. Руководитель подразделения Мустафа Сулейман заявил, что Microsoft намерена войти в число компаний, выпускающих модели передового уровня уже в следующем году.

Компания пригласила внешних экспертов к обсуждению документа. Проект подготовлен при участии специалистов в области права, этики и философии, а также бизнес‑экспертов. Кодекс остаётся в стадии доработки и начнёт направлять процесс создания моделей со следующего года.

При подготовке сообщения использовались материалы Bloomberg