Глава Google предупреждает общество о предстоящих изменениях в связи с использованием ИИ

Генеральный директор Google и Alphabet Сундар Пичаи заявил, что быстрое развитие искусственного интеллекта (ИИ) повлияет на «каждый продукт каждой компании», предупредив, что общество должно подготовиться к появлению технологий, подобных тем, которые уже запустились.

В ходе интервью Сундара Пичаи телеканалу CBS журналист Скотт Пелли протестировал несколько проектов искусственного интеллекта Google и сказал, что у него «нет слов» и что его «тревожат» возможности таких продуктов, как чат-бот Google Bard.

«Нам как обществу нужно адаптироваться к этому», — заявил Пичаи, добавив, что рабочие места, которые будут выдавлены с рынка искусственным интеллектом, будут включать в себя «работников умственного труда», а именно писателей, бухгалтеров, архитекторов и, по иронии судьбы, даже инженеров-программистов.

«Это повлияет на каждый продукт каждой компании», — подчеркнул Пичаи.

Пелли рассмотрел различные области применения передовых продуктов ИИ в Google, включая DeepMind, где роботы играли в футбол, чему они научились сами, а не от людей. В другом блоке показали роботов, которые распознавали предметы на столешнице и приносили Пелли яблоко, которое он попросил.

Предупреждая о последствиях ИИ, Пичаи сказал, что масштаб проблемы дезинформации, фейковых новостей и изображений будет «намного больше», добавив, что «это может причинить вред».

В прошлом месяце агентство CNBC сообщало, что Пичаи рассказал сотрудникам, что успех недавно запущенной программы Bard теперь зависит от публичного тестирования, добавив, что «все пойдет не так».

В прошлом месяце Google запустил своего чат-бота с искусственным интеллектом Bard в качестве экспериментального продукта. Это последовало за январским объявлением Microsoft о том, что его поисковая система Bing будет включать в себя технологию OpenAI GPT, которая привлекла международное внимание после запуска ChatGPT в 2022 году.

Однако опасения по поводу последствий быстрого прогресса в центре внимания в последние недели. В марте Илон Маск, Стив Возняк и десятки ученых призвали к немедленной паузе в обучающих «экспериментах», связанных с большими языковыми моделями, которые были «более мощными, чем GPT-4», флагманский LLM OpenAI. С тех пор петицию подписали более 25 тыс. человек.

«Конкурентное давление между такими гигантами, как Google, и стартапами, о которых вы никогда не слышали, толкает человечество в будущее, готово оно к этому или нет», — прокомментировал Пелли.

Google запустил документ с изложением «рекомендаций по регулированию ИИ», но Пичаи сказал, что общество должно быстро адаптироваться к регулированию, законам о наказании за злоупотребления и договорам между странами, чтобы сделать ИИ безопасным для мира, а также правилам, которые «соответствуют человеческим ценностям, включая мораль».

«Это не компания должна решать», — сказал Пичаи. «Вот почему я думаю, что в разработке этого должны участвовать не только инженеры, но и социологи, специалисты по этике, философы и так далее», — пояснил он.

На вопрос, готово ли общество к технологиям ИИ, таким как Bard, Пичаи ответил: «С одной стороны, я так не думаю, потому что скорость, с которой мы можем думать и адаптироваться как социальные институты, по сравнению с темпами, с которыми технология развивается, кажется несоответствующей».

Однако он добавил, что сохраняет оптимизм, потому что по сравнению с другими технологиями в прошлом «количество людей, которые начали беспокоиться о последствиях», сделали это на раннем этапе.

Из запроса Пелли в объеме шести слов Bard создал рассказ с персонажами и сюжетом, которые он придумал, включая мужчину, жена которого не могла зачать ребенка, и незнакомца, скорбящего после выкидыша и жаждущего закрытия. «Я редко теряю дар речи, — прокомментировал Пелли. — Но человеческое на сверхчеловеческой скорости стало шоком».

Пелли спросил Bard, почему он помогает людям, и тот ответил: «Потому что это делает меня счастливым», что, по словам Пелли, шокировало его. «Похоже, Bard думает», — сказал он Джеймсу Маньике, старшему вице-президенту Google, нанятому в прошлом году на должность главы дивизиона «технологии и общество». Маньика ответил, что Bard не разумен и не осознает себя, но может «вести себя похоже».

Пичаи также признал, что у Bard еще много сбоев и глюков после того, как Пелли рассказал, что спросил Bard об инфляции и получил мгновенный ответ с предложениями пяти книг, которые, как он проверил позже, на самом деле никогда не существовали.

Пелли также казался обеспокоенным, когда Пичаи сказал, что есть «черный ящик» с чат-ботами, где «вы не полностью понимаете», почему и как он дает определенные ответы.

«Вы не совсем понимаете, как это работает, и все же вы выплеснули это на общество?» — спросил Пелли.

«Позвольте мне сказать именно так, я не думаю, что мы полностью понимаем, как работает человеческий разум», — ответил Пичаи.

Материалы на эту тему также можно прочитать: