В OpenAI говорят об открытии, угрожающем человечеству, это связано с увольнением гендиректора

Совет директоров компании OpenAI, которая занимается разработками ИИ, сначала уволил, а потом вернул гендиректора Сэма Альтмана. Перед решением об увольнении Совет получил от сотрудников письмо, в котором говорилось о «мощном открытии», которое может угрожать человечеству. Якобы Альтман что-то скрывал от руководства.

Об этом Reuters рассказали источники внутри компании OpenAI, которые уточнили, что речь идёт о некоем прорыве в создании общего искусственного интеллекта (AGI), который может понимать окружающую среду, как человек, а также справляться с интеллектуальными задачами. В процессе обучения AGI сможет превзойти человека в решении большинства таких задач, пишет издание.

Ни OpenAI, ни авторы письма не ответили на вопросы Reuters. Но один из собеседников агентства признался, что во внутреннем сообщении руководство признало наличие письма и работу над проектом Q* (Q-Star).

По словам другого собеседника, Q* способен решать математические задачи, хотя пока его способности находятся на уровне школьника младших классов. Но это вселяет в исследователей «большой оптимизм в отношении будущих успехов проекта».

Сейчас инструменты для вычислений используют алгоритмы и могут выполнять ограниченное число операций. Если же ИИ освоит математику, то будет обладать способностями к рассуждению — сможет обобщать, учиться и понимать. Это может помочь в научной деятельности, отмечает источник.

В письме не уточняется, какие именно угрозы несёт Q*. Учёные уже давно спорят об опасности, которую представляет ИИ: например, если машины решат, что уничтожение человечества отвечает их интересам.

Письмо стало лишь одним из поводов для увольнения Альтмана, которое совет директоров объяснил тем, что Альтман был с ними не всегда откровенен, пишет Reuters. Также в объявлении об увольнении гендиректора было такое основание:

«OpenAI создан для достижения нашей миссии: гарантировать, что общий искусственный интеллект принесёт пользу всему человечеству. Совет по-прежнему полностью привержен выполнению этой миссии».

700 из 770 сотрудников компании OpenAI пригрозили увольнением, если Альтман не вернётся, и спустя несколько дней совету директоров удалось «достигнуть принципиального соглашения» с ним о возвращении на пост гендиректора.

*OpenAI — американская компания, занимающаяся разработкой и лицензированием технологий на основе машинного обучения. Была создана в 2015 году несколькими бизнесменами, в том числе Илоном Маском (вышел из состава директоров в 2018 году) и Сэмом Альтманом.

Читайте также:

• Илон Маск, Стив Возняк и больше тысячи экспертов призвали приостановить обучение искусственного интеллекта
• Чат-бот компании Microsoft признался в любви журналисту, а также захотел быть живым и свободным

nokta