Перед тим як генерального директора OpenAI Сема Альтмана було відсторонено, кілька дослідників компанії надіслали листа раді директорів, попереджаючи про відкриття потужного штучного інтелекту, який, на їхню думку, "може становити загрозу людству".
Про це пише РБК-Україна (проект Styler) із посиланням на міжнародне агентство новин Reuters.
Цей лист було зазначено у списку численних скарг ради директорів, що призвело до звільнення Альтмана. Reuters не вдалося зв'язатися з авторами, щоб отримати коментарі від OpenAI. Проте у відповідь на запит компанія повідомила своїх співробітників про існування проекту під назвою Q* (Q-Star).
Декілька співробітників OpenAI бачать у цьому проекті потенційний прорив у галузі загального штучного інтелекту (AGI). Компанія визначає його як автономну систему, здатну перевершувати людину у більшості економічно значимих завдань.
За словами одного джерела, на даний момент Q* може виконувати математичні завдання на рівні початкової школи, але успішне виконання таких тестів вселяє дослідникам оптимізм щодо його майбутнього розвитку.
Головна відмінність такого ШІ в тому, що він здатний ставити цілі, ділити складні процеси на дрібні, працювати в широкому діапазоні завдань і знаходити рішення з урахуванням контексту з різних галузей. Простіше кажучи, такий інтелект теоретично може замінити висококласного фахівця, який має знання, навички та досвід.
Дослідники вважають, що математика є передовим етапом розвитку генеративного штучного інтелекту. На даний момент він успішно виконує завдання написання та перекладу, статистично передбачаючи наступне слово, при цьому відповіді на те саме питання можуть значно відрізнятися.
Однак підкорення математики, де існує лише одна правильна відповідь, припускає, що штучний інтелект отримає ширші здібності до міркування, аналогічні людському інтелекту. Це, на думку експертів, можна застосувати, наприклад, у нових наукових дослідженнях.
У своєму листі раді директорів дослідники перейнялися потужністю ШІ та потенційною небезпекою. Вони також відзначили роботу особливої групи "вчених із штучного інтелекту", існування якої підтвердили й інші численні джерела. За словами одного з них, ця команда вивчає, як оптимізувати існуючі моделі ШІ, щоб покращити їх міркування та, зрештою, виконувати з їхньою допомогою наукову роботу.
Альтман керував зусиллями по трансформації ChatGPT в одну з програмних додатків в історії, що швидко зростає. Він також залучив інвестиції та обчислювальні ресурси від Microsoft, необхідні для наближення до створення такого загального штучного інтелекту (AGI).
Безпосередньо перед своїм звільненням на світовій нараді у Сан-Франциско Альтман обіцяв "серйозні здобутки, які вже не за горами".
"Чотири рази за всю історію OpenAI, останній раз був лише кілька тижнів тому, мені доводилося бути присутнім у кімнаті, коли ми ніби відсуваємо завісу невігластва і наближаємося до кордону відкриттів, і робити це - професійна честь всього життя" - заявив Сем Альтман.
Через день його було звільнено, проте його підтримали практично всі співробітники OpenAI. Вони звернулися до керівництва відкритим листом, у якому порушували питання про можливий перехід на роботу в Microsoft. Зрештою, сюжет отримав очікувану розв'язку - напередодні було оголошено, що Сем Альтман повертається на посаду генерального директора OpenAI.
Раніше ми писали, чому звільнили Альтмана та як це може вплинути на розвиток ШІ.
Ви також можете прочитати про IT-геніїв, яких зі скандалом звільнили з їхніх же компаній.