Кибернетик сказал, может ли ИИ уничтожить человечество
Угрожает ли ИИ человечеству (фото: Freepik)
Развитие искусственного интеллекта набирает безумных темпов. Едва ли не ежемесячно с его помощью ученым удается делать важные открытия. Но столь стремительный прогресс этих новейших технологий многих пугает - мол, ИИ может выйти из-под контроля и уничтожить человечество.
О том, есть ли реальные угрозы для людей от ИИ, рассказал заведующий отделом теории цифровых автоматов Института кибернетики имени В. Глушкова НАН Украины, доктор физ.-мат. наук Александр Летичевский эксклюзивно в интервью для РБК-Украина.
Может ли развитие искусственного интеллекта уничтожить человечество
"Человечество можно будет цивилизационно уничтожить, если ИИ будет активно участвовать в соцсетях и будет влиять на обычных пользователей. На какую степень мы ему позволим вмешиваться в жизнь человечества, так это и будет. Ведь если мы ему позволим запускать ракеты и давать такие решения на основе искусственного интеллекта, тогда конечно - это опасно", - говорит ученый.
Однако Летичевский добавляет, что теории о том, что появятся какие-то фантастические работы, которые будут все уничтожать - далеки от реализации.
"Хотя уже есть случай, когда робот на складе ошибочно воспринял человека за товар и раздавил его своим манипулятором. Поэтому это все не должно контролироваться исключительно статистическим подходом. Если кто-то это позволит, это будет преступление", - отмечает кибернетик.
Он также отмечает, что плохо натренированные нейронные сети совершают ошибки и они еще будут случаться, потому что технология еще совершенствуется.
Нужно ли контролировать развитие ИИ
"Нужно контролировать такие продукты и сертифицировать. Chat GPT не опасен, но люди начинают ему уже доверять, но там есть такие явления, как галлюцинации - вымышленные факты и события. Я его спросил как-то, знает ли он о моей статье о слонах, а он начал о ней что-то рассказывать, хотя у меня никогда не было такой статьи", - добавляет ученый.
Летичевский отмечает, что системы ИИ нужно лицензировать так же, как лекарства или аттракционы. Они должны быть безопасны для того, чтобы их использовали в различных отраслях.
"С чат-ботами можно создать много аккаунтов в соцсетях и они будут агитировать людей за определенные политические партии или будут подстрекать к неправомерным действиям. Люди эмоционально спорят, оскорбляют друг друга, а чат-бот толерантный, он будет аккуратно навязывать свое мнение. А это уже нападение на демократию. Это серьезная штука. Поэтому это нужно отслеживать и все сертифицировать, потому что это влияние на общее сознание в соцсетях", - объясняет ученый.
Также он добавляет, что люди будут делать новые изобретения на основе ИИ и со временем он будет влиять на все сферы нашей деятельности.
Раньше мы писали о том, что искусственный интеллект сгенерировал внешность идеальной женщины.
Читайте также о том, что OpenAl предупредили о разработке, которая может уничтожить человечество.
