Перед тем как генеральный директор OpenAI Сэм Альтман был отстранен, несколько исследователей компании направили письмо совету директоров, предупреждая об открытии мощного искусственного интеллекта, который, по их мнению, "может представлять угрозу человечеству".
Об этом пишет РБК-Украина (проект Styler) со ссылкой на международное новостное агентство Reuters.
Это письмо было указано в списке многочисленных жалоб совета директоров, что привело к увольнению Альтмана. Reuters не удалось связаться с авторами, чтобы получить комментарии от OpenAI. Однако в ответ на запрос компания уведомила своих сотрудников о существовании проекта под названием Q* (Q-Star).
Несколько сотрудников OpenAI видят в этом проекте потенциальный прорыв в области всеобщего искусственного интеллекта (AGI). Компания определяет его как автономную систему, способную превосходить человека в большинстве экономически важных задач.
По словам одного источника, на данный момент Q* может выполнять математические задания на уровне начальной школы, но успешное выполнение таких тестов внушает исследователям оптимизм по его будущему развитию.
Главное отличие такого ИИ в том, что он способен ставить цели, делить сложные процессы на мелкие, работать в широком диапазоне задач и находить решения с учетом контекста из разных областей. Проще говоря, такой интеллект теоретически может заменить высококлассного специалиста, обладающего знаниями, навыками и опытом.
Исследователи полагают, что математика является передовым этапом развития генеративного искусственного интеллекта. На данный момент он успешно выполняет задачи написания и перевода, статистически предполагая следующее слово, при этом ответы на тот же вопрос могут значительно отличаться.
Однако покорение математики, где существует только один правильный ответ, предполагает, что искусственный интеллект получит более широкие способности к размышлению, аналогичные человеческому интеллекту. Это, по мнению экспертов, можно применить, например, к новым научным исследованиям.
В своем письме совету директоров исследователи прониклись мощностью ИИ и потенциальной опасностью. Они также отметили работу особой группы "ученых по искусственному интеллекту", существование которой подтвердили и другие многочисленные источники. По словам одного из них, эта команда изучает, как оптимизировать существующие модели ИИ, чтобы улучшить их рассуждения и, наконец, выполнять с их помощью научную работу.
Альтман руководил усилиями по трансформации ChatGPT в одну из быстро растущих программных приложений в истории. Он также привлек инвестиции и вычислительные ресурсы от Microsoft, необходимые для приближения к созданию такого общего искусственного интеллекта (AGI).
Непосредственно перед своим увольнением на мировом совещании в Сан-Франциско Альтман обещал "серьезные достижения, которые уже не за горами".
"Четыре раза за всю историю OpenAI, последний раз был всего несколько недель назад, мне приходилось присутствовать в комнате, когда мы будто отодвигаем занавес невежества и приближаемся к границе открытий, и делать это - профессиональная честь всей жизни" - заявил Сэм Альтман.
Через день он был уволен, однако его поддержали практически все сотрудники OpenAI. Они обратились к руководству открытым письмом, в котором поднимали вопрос о возможном переходе на работу в Microsoft. В конце концов сюжет получил ожидаемое решение - накануне было объявлено, что Сэм Альтман возвращается на должность генерального директора OpenAI.
Ранее мы писали, почему уволили Альтмана и как это может повлиять на развитие ИИ.
Вы также можете прочитать об IT-гениях, которых со скандалом уволили из их же компаний.