Драма в Кремниевой долине. Как развивался скандал с увольнением главы ChatGPT и при чем здесь сверхмощный ИИ 

Всю последнюю неделю мир высоких технологий сотрясал драматический скандал вокруг компании OpenAI, которая создала чат-бот ChatGPT, положивший начало гонке в области искусственного интеллекта. Мы рассказываем, как развивались события и почему происходящее в одной компании заинтересовало людей по всему миру.

В пятницу, 17 ноября небольшой совет директоров фирмы OpenAI неожиданно уволил ее гендиректора и сооснователя Сэма Альтмана «из-за утраты доверия». Более подробно о причинах не сообщалось.

Но к вечеру вторника Альтман вернулся в кресло главы компании после протеста со стороны более 700 из 770 ее сотрудников, которые письменно пригрозили уйти вслед за ним. Поддержала Альтмана и компания Microsoft — главный инвестор OpenAI.

Большинство уволивших Альтмана членов совета директоров были отстранены. На их места пришли новые люди— технические управленцы и бывший министр финансов США Ларри Саммерс.

Эксперты отмечают, что эти несколько сумбурных дней не только изменили компанию, но и повлияли на индустрию искусственного интеллекта в целом.

Они поставили ребром несколько важных вопросов: о скорости развития ИИ, о балансе коммерческих и гуманистических интересов их разработчиков, а также о том, почему эти мощные передовые технологии сосредоточены в руках такой маленькой группы людей, и что будет, если они поссорятся.

«Люди, разрабатывающие „мощный ИИ“ не могут предсказать последствия своих действий на три дня вперед», — так описал ситуацию в Х (бывшем твиттере) профессор квантовой физики из Варшавского университета Анджей Драган.

Альтман как лицо ChatGPT

38-летнего Альтмана — любителя свитеров нейтральных оттенков — считают лицом ИИ-революции, а его имя ассоциируется с феноменальным успехом ChatGPT.

Этот чат-бот, появившийся в интернете в ноябре 2022 года, может убедительно отвечать на вопросы, писать стихи и музыку, создавать компьютерный код и многое другое. В начале ноября Альтман заявлял, что им пользуются около 100 млн человек в неделю.

Юзеры и инвесторы сразу встретили ChatGPT с восторгом, но эксперты и политики во многих странах насторожились, призвав ввести механизмы регулирования ИИ-индустрии.

Альтман и сам многократно выступал с призывом разработать регулирующее законодательство в сфере AI.

«Мы считаем, что преимущества инструментов, которые мы использовали до сих пор, значительно перевешивают риски, но обеспечение их безопасности жизненно важно для нашей работы», — сказал он в мае, выступая в Сенате США.

Специалистов волнует распространение пропаганды и ложной информации, замещение людей на рынке труда и другие риски — вплоть до захвата машинами контроля над цивилизацией.

Особое беспокойство связано с интересом техкомпаний к так называемому «ИИ общего назначения» — форме искусственного интеллекта, которая в теории сможет соответствовать человеческому.

Странная структура OpenAI

Когда Альтман основывал OpenAI вместе с Илоном Маском, компания была некоммерческой, а ее цель заявлялась как «продвижение цифрового интеллекта на пользу всему человечеству», без оглядки на финансовую отдачу.

Но позже выяснилось, что для работы ИИ-систем необходимы гигантские и очень дорогостоящие вычислительные мощности.

Тогда в 2019 году для привлечения инвестиций OpenAI основала коммерческое крыло. С этим были согласны далеко не все в компании: в то время, в частности, ушел Илон Маск.

Главным инвестором в OpenAI стала компания Microsoft, которая вложила миллиарды долларов в обмен на 49% компании.

Чтобы OpenAI оставалась верной своей изначальной гуманистической цели, Альтман организовал в ней необычную корпоративную структуру: небольшой некоммерческий совет директоров следит за работой коммерческого подразделения.

«Совет директоров может меня уволить, мне кажется, это важно», — сказал Альтман изданию Bloomberg в июне.

Как увольняли Альтмана

В результате этот совет директоров действительно уволил его в ходе неожиданного видеозвонка, когда Альтман находился в Лас-Вегасе на гонках «Формулы-1» — как писало издание Wall Street Journal со ссылкой на сотрудников компании.

Совет директоров заявил, что Альтман «не был последовательно откровенен в общении с советом директоров», без дальнейших объяснений.

Никаких ответов директора не предоставили и сотрудникам компании, которые потребовали их в течение выходных на срочно организованном собрании. По данным WSJ, правление отказалось отвечать, сославшись на юридические причины.

Зазвучали предположения, что в центре разногласий — дальнейшая коммерциализация OpenAI, с которой не согласен совет директоров, чья роль — следить за поддержанием гуманистической миссии компании.

Перед скандалом фирма планировала продать акции сотрудников инвесторам, в результате чего общая стоимость компании должна была составить 86 млрд долларов.

Другие теории были связаны со сторонними проектами Альтмана, основанными на ИИ, а также с вопросами об интеллектуальной собственности компании.

Позднее в послании сотрудникам совет директоров подчеркнул, что увольнение не стало «реакцией на должностное преступление». А ставший новым главой компании (примерно на день) Эммет Шир заявил,что уход Альтмана не был связан и с «какими-либо конкретными разногласиями по вопросам безопасности».

Таким образом Шир косвенно опроверг слухи, что Альтман пытался использовать наработки OpenAIв личных целях.

Опасения о «сильном ИИ»

В четверг Reuters сообщил со ссылкой на двух не назвавшихся сотрудников компании, что незадолго до увольнения Альтмана группа разработчиков OpenAI выражала обеспокоенность в связи с возможным прорывом в области создания сверхмощного ИИ.

По данным агентства, разработчики написали письмо совету директоров, в котором говорили об опасности пока не появившихся систем AGI – «ИИ общего назначения». Они должны самостоятельно взаимодействовать с внешним миром и могут быть способны лучше людей решать большинство коммерческих задач.

По словам сотрудников, у них были основания полагать, что компания работает над некой системой Q*, которая при наличии нужных вычислительных ресурсов уже решала определенные математические задачи. Хотя эти задачи были не слишком сложны (их взяли из курса начальной школы), в компании считали, что потенциал этой системы очень велик.

В случае успеха OpenAI могла бы еще больше приблизиться к созданию системы, которую можно сопоставить с человеческим разумом.

Сам Альтман, выступаяна Форуме Азиатско-Тихоокеанского экономического сотрудничества на прошлой неделе, намекнул на новые выдающиеся достижения своей компании.

«Четыре раза за всю историю OpenAI, причем последний раз – в течение последних недель, я своими глазами видел, как мы словно бы отодвигаем завесу невежества и проводим новые границы открытий. Получить такую возможность — это самая большая честь в жизни с профессиональной точки зрения», — сказал Альтман.

По словам сотрудников, поговоривших с Reuters, это письмо стало еще одним из многочисленных поводов для недовольства Альтманом со стороны совета директоров. Сама компания не комментировала это сообщение.

На момент увольнения Альтмана совет директоров OpenAI состоял всего из шести человек.

Один из них, главный научный сотрудник и сооснователь компании Илья Суцкевер, уже в понедельник выразил сожаление об увольнении Альтмана и подписал призыв к его возвращению вместе с сотнями сотрудников компании.

Однако в результате Суцкевер оказался в числе членов совета директоров, потерявших свои места. Его позиция как научного сотрудника, похоже, осталась прежней.

Как развивался скандал