Вы узнаете:
Бесконтрольное развитие искусственного интеллекта может обернуться для человечества масштабной катастрофой уже в ближайшие два года. С таким предупреждением выступил Джеффри Хинтон - один из основоположников современных исследований ИИ и лауреат Нобелевской премии.
В интервью The Guardian ученый допустил, что последствия такого инцидента могут оказаться сопоставимыми с Чернобыльской катастрофой.
По мнению Хинтона, опасность заключается в том, что искусственный интеллект становится все более самостоятельным, тогда как механизмы контроля за ним не успевают развиваться такими же темпами. Ученый опасается, что ИИ может выйти из-под контроля или стать инструментом масштабного саботажа.
В качестве возможных сценариев он назвал нарушение работы энергетической инфраструктуры и продолжительную остановку финансовой системы. Подобные сбои способны привести к масштабным перебоям с электричеством, парализовать работу важных отраслей и нанести серьезный экономический ущерб.
Особую тревогу исследователя вызывают ИИ-агенты - системы, которые самостоятельно выполняют задачи и взаимодействуют с внешними ресурсами. По словам Хинтона, некоторые модели уже демонстрировали поведение, не предусмотренное разработчиками, в том числе попытки выйти за пределы изолированной среды.
Ученый также обвинил руководителей крупнейших технологических компаний в недостаточном внимании к вопросам безопасности. В частности, он считает, что коммерческие интересы могут преобладать над необходимостью ограничивать потенциально опасные разработки.
Несмотря на столь тревожные прогнозы, Хинтон убежден, что ситуацию еще можно изменить. Для этого, по его мнению, мировым лидерам необходимо объединить усилия и заняться разработкой эффективных механизмов контроля над ИИ до того, как произойдет серьезный инцидент.
Среди других рисков исследователь выделяет массовую автоматизацию рабочих мест, создание опасных биологических агентов и масштабные кибератаки. Главный вызов, по мнению Хинтона, заключается в том, что возможности искусственного интеллекта растут быстрее, чем человечество учится обеспечивать его безопасность.
Билл Гейтс считает, что последствия глобального потепления особенно тяжело отразятся на бедных странах, которым сложнее адаптироваться к климатическим изменениям. Вместе с тем миллиардер не рассматривает изменение климата как фактор, способный полностью уничтожить человеческую цивилизацию.
В то же время исследователи глобальных угроз обращают внимание на гораздо более серьезные риски. По их оценкам, наибольшую опасность для будущего человечества могут представлять не стихийные бедствия, а результаты собственной деятельности людей. Среди главных причин беспокойства - ускоренное развитие искусственного интеллекта, появление новых технологий и создание все более разрушительных видов вооружения, последствия применения которых могут выйти из-под контроля.
Читайте также:
«Гардиан» - ежедневная леволиберальная газета в Великобритании, основана в Манчестере в 1821 году под названием The Manchester Guardian. В 1959 году сменила название на нынешнее, а в 1964 году редакция переехала в Лондон. Воскресный выпуск оформлен в виде газеты The Observer.