Лауреат Нобелевской премии предупреждает мир об опасности искусственного интеллекта

Гэффри Хинтон предупреждает о потенциальных опасностях искусственного интеллекта

"Это будет сравнимо с промышленной революцией", - сказал он сразу после объявления. "Но вместо того, чтобы превосходить людей в физической силе, он превзойдет людей в интеллектуальных способностях. У нас нет опыта того, каково это иметь вещи умнее нас".

Хинтон, который, как известно, ушел из Google, чтобы предупредить о потенциальных опасностях ИИ, был назван крестным отцом этой технологии.

Теперь, будучи связанным с Университетом Торонто, он разделил премию с профессором Принстонского университета Джоном Хопфилдом "за фундаментальные открытия и изобретения, которые позволяют машинному обучению с искусственными нейронными сетями".

И хотя Хинтон признает, что ИИ может изменить некоторые части общества к лучшему - например, привести к "огромному повышению производительности" в таких областях, как здравоохранение, - он также подчеркнул потенциальные "число возможных негативных последствий, особенно угрозу того, что эти вещи выйдут из-под контроля".

"Я беспокоюсь, что в целом последствием этого могут стать системы более умные, чем мы, которые в конечном итоге возьмут под контроль", - сказал он.

Хинтон не первый лауреат Нобелевской премии, предупреждающий об опасностях технологии, которую он помог создать.

Джеффри Хинтон называют "крестным отцом" искусственного интеллекта (фото: Wikimedia)

Ядерное оружие (1935 год)

Нобелевская премия по химии 1935 года была разделена супружеской парой, Фредериком Жолио и Ирен Жолио-Кюри (дочерью лауреатов Марии и Пьера Кюри), за открытие первых искусственно созданных радиоактивных атомов. Это была работа, которая внесла свой вклад в важные достижения в медицине, включая лечение рака, а также в создание атомной бомбы.

В своей Нобелевской лекции того года Жолио завершил ее предупреждением о том, что будущие ученые "смогут осуществить превращения взрывного типа, настоящие химические цепные реакции".

"Если такие превращения действительно распространятся в веществе, можно представить себе огромное освобождение полезной энергии", - сказал он. "Но, к сожалению, если зараза распространится на все элементы нашей планеты, последствия развязывания такого катаклизма можно только с тревогой рассматривать".

Тем не менее, Жолио предсказал, что это будет "процесс, который исследователи будущего, несомненно, попытаются реализовать”.

Ирен Жолио-Кюри и Фредерик Жолио разделили Нобелевскую премию по химии в 1935 году (фото: CNN)

Устойчивость к антибиотикам (1945 год)

Сэр Александр Флеминг разделил Нобелевскую премию по медицине 1945 года с Эрнстом Чейном и сэром Эдвардом Флори за открытие пенициллина и его применение для лечения бактериальных инфекций.

Флеминг сделал первоначальное открытие в 1928 году, и к тому времени, когда он произнес свою Нобелевскую лекцию в 1945 году, он уже сделал важное предупреждение миру: "Несложно сделать микробы устойчивыми к пенициллину в лаборатории, подвергая их воздействию концентраций, недостаточных для их уничтожения, и то же самое иногда случается в организме", - сказал он.

"Может прийти время, когда пенициллин можно будет купить кем угодно в магазинах", - продолжил он. "Тогда существует опасность того, что невежественный человек может легко недооценить себя и, подвергая свои микробы воздействию нелетальных количеств препарата, сделать их устойчивыми".

Почти столетие спустя после первоначального открытия Флеминга антимикробная устойчивость - устойчивость патогенов, таких как бактерии, к лекарственным препаратам, предназначенным для их лечения, - считается одной из крупнейших угроз для глобального общественного здравоохранения, согласно Всемирной организации здравоохранения, ответственной за 1,27 миллиона смертей только в 2019 году.

Ключевая часть предупреждения Флеминга могла заключаться в чрезмерно широком использовании антибиотиков, а не в идее низких дозировок.

Сэр Александр Флеминг, открывший пенициллин в 1928 году, получил Нобелевскую премию по медицине в 1945 году (фото: CNN)

Рекомбинантная ДНК (1980 год)

Пол Берг, получивший Нобелевскую премию по химии 1980 года за разработку рекомбинантной ДНК, технологии, которая помогла дать толчок развитию биотехнологической промышленности, не высказал столь же четкого предупреждения, как некоторые из его коллег-лауреатов, о потенциальных рисках своих исследований.

Но он признал опасения относительно того, к чему могут привести генетические манипуляции, включая биологическую войну, генетически модифицированные продукты питания и генную терапию, форму медицины, которая включает замену дефектного гена, вызывающего заболевание, нормально функционирующим.

В своей Нобелевской лекции 1980 года Берг сосредоточился специально на генной терапии, заявив, что этот подход "имеет много подводных камней и неизвестных, среди которых вопросы о осуществимости и желательности для любого конкретного генетического заболевания, не говоря уже о рисках".

"Мне кажется", - продолжил он, - "что если мы когда-нибудь пойдем по этому пути, нам потребуется более подробное знание того, как организованы и функционируют человеческие гены и как они регулируются".

В интервью десятилетиями позже Берг отметил, что он и другие ученые в этой области уже публично собрались вместе, чтобы признать потенциальные опасности технологии и работать над защитными барьерами, на конференции, известной как Асиломар, в 1975 году.

"Озабоченность по поводу рекомбинантной ДНК или генной инженерии исходила от ученых, поэтому это был очень важный факт", - сказал он научному писателю Джоанне Роуз в 2001 году.

К 2001 году, по его словам, "опыт и эксперименты, которые были проведены, показали, что первоначальные опасения, которые мы действительно считали возможными, фактически не существовали".

Теперь генная терапия является растущей областью медицины, с одобренными методами лечения серповидноклеточной анемии, мышечной дистрофии и некоторых наследственных форм слепоты, хотя она не широко используется, потому что она все еще сложна в применении и очень дорога.

В первые годы эта технология привела к смерти в 1999 году 17-летнего участника клинического испытания Джесси Гельсингера, вызвав этические вопросы о том, как проводилось исследование, и замедляя работу в этой области.

И хотя Берг сам выразил озабоченность, он завершил свою Нобелевскую лекцию в 1980 году призывом к оптимизму и "необходимости двигаться вперед".

Пауль Берг получает Нобелевскую премию по химии в Стокгольме в декабре 1980 года (фото: CNN)

Редактирование генов (2020 год)

Четыре года назад Дженнифер Дудна и Эммануэль Шарпентье разделили Нобелевскую премию по химии за разработку метода редактирования генома CRISPR-Cas9.

В своей лекции Дудна подробно рассказала об "исключительных и захватывающих возможностях" этой технологии в области общественного здравоохранения, сельского хозяйства и биомедицины.

Но она уточнила, что работа должна проводиться гораздо осторожнее при применении к человеческим зародышевым клеткам, генетические изменения которых будут передаваться потомству, в отличие от соматических клеток, где любые генетические изменения будут ограничены индивидуумом.

"Наследственность делает редактирование генома зародышевых клеток очень мощным инструментом, когда мы думаем об использовании его в растениях или для создания лучших животных моделей человеческих заболеваний, например", - сказала Дудна.

Дудна, основавшая Институт инновационной геномики, сказала CNN, что она считает "важной ответственностью и полезной общественной услугой соответствующие предупреждения ученых о потенциальном неправильном использовании их открытий, особенно когда работа имеет широкие социальные последствия".

"Те из нас, кто ближе всего к науке о CRISPR, понимают, что это мощный инструмент, который может положительно изменить наше здоровье и мир, но потенциально может быть использован недобросовестно", - сказала она.

"Мы видели эту двойную возможность использования с другими трансформирующими технологиями, такими как атомная энергия, - и теперь с ИИ".

Дженнифер Дудна получила Нобелевскую премию по химии в 2020 году за работу над новым методом редактирования генов (фото: CNN)