Вы узнаете:
Джеффри Ирвинг, исследователь безопасности искусственного интеллекта и бывший главный научный сотрудник государственного Института безопасности ИИ, оценил вероятность катастрофического сценария с участием сверхинтеллекта в 50%.
По его словам, главная проблема заключается в том, что возможности ИИ развиваются значительно быстрее, чем технологии и методы, позволяющие контролировать их безопасность, пишет Express.
«Я думаю, что у нас есть примерно 50%-ный шанс, что все погибнут в результате действия сверхинтеллекта, в основном из-за действий в ближайшие несколько-десять лет. Я не ожидаю, что этот шанс снизится ниже 10% или превысит 90% до того, как мы либо переживем это, либо нет. Нам придется действовать, несмотря на неопределенность», - отметил он.
Ирвинг пояснил, что 50% - не результат точного прогноза. Ранее он оценивал риск в диапазоне от 10% до 90%, поскольку не считал возможным определить вероятность точнее.
«Что касается 50%, то, несмотря на многолетние размышления об этом, я по-прежнему считаю, что существует огромная неопределенность модели различного рода, и несколько лет назад я пришел к выводу, что она составляет «10-90%, но я не чувствую себя достаточно точно настроенным в этом диапазоне». Затем я понял, что честным решением было просто взять среднее значение», - добавил ученый.
Ранее работавший в DeepMind, OpenAI и Google Brain исследователь ушел в государственный институт из-за опасений, что вопросы безопасности не успевают за темпами развития ИИ.
«Меня беспокоит, что прогресс в области безопасности слишком медленный по сравнению с темпами развития искусственного интеллекта».
При этом Ирвинг считает, что проблема не столько в намерениях разработчиков, сколько в давлении конкуренции.
«Большинство сотрудников и руководителей лабораторий искусственного интеллекта действуют из лучших побуждений, но рыночные силы постоянно оказывают давление, заставляя отдавать приоритет скорости, а не осторожности».
Современные ИИ-системы уже умеют рассуждать, программировать, переводить и выполнять сложные многоэтапные задачи. По мере роста их возможностей вопрос о том, удастся ли сохранить контроль над будущим сверхинтеллектом, становится все более острым.
Билл Гейтс полагает, что изменение климата способно серьезно осложнить жизнь людей, прежде всего в наиболее уязвимых и бедных государствах. При этом он не считает климатический кризис угрозой, которая может привести к исчезновению человечества.
Однако специалисты по глобальным рискам смотрят на перспективы гораздо тревожнее. По их мнению, главные угрозы цивилизации могут исходить не от природных катастроф, а от самого человека. Особое беспокойство вызывают стремительное развитие технологий и совершенствование вооружений, последствия применения которых в определенных обстоятельствах могут оказаться неконтролируемыми.
Читайте также:
Express.co.uk - это британский новостной веб-сайт, связанный с газетой Daily Express, которая является одной из старейших таблоидных газет в Великобритании. Сайт принадлежит медиакомпании Reach PLC, которая также владеет другими популярными изданиями, такими как Daily Mirror и Daily Star.