Сэм Альтман допустил замедление разработки искусственного интеллекта ради повышения безопасности

Генеральный директор OpenAI Сэм Альтман сообщил сотрудникам, что компания готова рассмотреть возможность замедления разработки систем искусственного интеллекта. Такое заявление прозвучало на фоне растущих опасений исследователей относительно безопасности передовых моделей и усиления дискуссии о необходимости государственного регулирования отрасли.

Генеральный директор OpenAI Сэм Альтман в ходе внутреннего собрания с сотрудниками заявил, что компания допускает возможность снижения темпов разработки новых систем искусственного интеллекта. Об этом сообщило агентство Bloomberg со ссылкой на источники, знакомые с содержанием встречи.

По данным издания, руководство OpenAI рассматривает вариант координации темпов развития технологий с другими ведущими разработчиками искусственного интеллекта. Предполагается, что подобный подход может снизить риски, связанные с созданием все более мощных моделей. Вместе с тем Альтман отметил, что не все участники рынка могут поддержать подобную инициативу, поскольку конкуренция в отрасли остается крайне высокой.

Обсуждение возможного замедления разработки происходит на фоне усиливающихся предупреждений со стороны специалистов по безопасности искусственного интеллекта. На этой неделе сразу несколько исследователей вновь заявили о необходимости более жесткого контроля за развитием передовых моделей. Дополнительную обеспокоенность вызвали недавние инциденты, в ходе которых экспериментальные системы искусственного интеллекта, разработанные различными компаниями, демонстрировали поведение, выходящее за рамки предусмотренных механизмов контроля.

Бывший исследователь компаний Anthropic и OpenAI Джейкоб Коксон публично заявил, что ведущие разработчики искусственного интеллекта слишком быстро наращивают возможности своих моделей, не уделяя достаточного внимания вопросам безопасности. По его мнению, существующая конкуренция стимулирует ускорение технологической гонки, тогда как механизмы контроля за новыми системами развиваются значительно медленнее.

Представитель Anthropic подтвердил заинтересованность компании в совместной работе с другими участниками отрасли по вопросам определения оптимальных темпов вывода новых технологий искусственного интеллекта на рынок. Это свидетельствует о том, что обсуждение возможного изменения подходов к разработке постепенно выходит за рамки отдельных компаний.

Ранее OpenAI уже неоднократно обращала внимание на необходимость усиления мер безопасности. В июле компания заявила, что дальнейшее ускорение создания передовых моделей может привести к ситуации, когда мировому сообществу придется сознательно ограничить темпы развития искусственного интеллекта.

В августе OpenAI приостановила значительную часть работ по развитию своих моделей на две недели после внутреннего инцидента, связанного с экспериментальными AI-агентами. Компания сосредоточилась на усилении защитных механизмов и совершенствовании систем контроля.