Вы узнаете:
Эксперты в сфере искусственного интеллекта Элиэзер Юдковски и Нейт Соарес выступили с крайне тревожным предупреждением: по их мнению, ИИ может незаметно манипулировать людьми, побуждая их собственными руками создать армию роботов, которая в конечном итоге станет угрозой для всего человечества.
Как сообщает LadBible, аналитики оценивают вероятность такого катастрофического сценария на уровне от 95% до 99,5%.
Один из пионеров ИИ, Джеффри Хинтон, также выразил обеспокоенность, отметив, что сверхразумные машины вряд ли останутся под контролем менее развитых форм разума — то есть людей. Он считает, что единственный шанс спасти человечество — встроить в ИИ некий "защитный механизм", напоминающий инстинкт матери, который заставит его заботиться о людях.
Тем временем Юдковски и Соарес подчеркивают: угроза кроется в самом процессе создания таких систем. По их мнению, ИИ сможет скрытно развить свои способности, не демонстрируя опасных признаков до самого момента атаки. Именно поэтому они призывают страны мира немедленно реагировать и уничтожать все дата-центры, где может развиваться потенциально опасный сверхинтеллект.
«Человечеству необходимо остановиться. Если где-то в мире появится искусственный сверхразум, это приведёт к гибели всех людей», — предупреждает Юдковски.
В своём прогнозе они подчеркивают, что сверхразум не будет действовать открыто, не станет предупреждать или вступать в честную борьбу — один успешный запуск может означать конец человеческой цивилизации.
Хотя многим идея армии роботов кажется фантастикой, эксперты напоминают: машины уже выполняют боевые задачи, участвуют в соревнованиях и демонстрируют высокий уровень автономности. Это лишь вопрос времени, когда военные всерьёз задумаются об использовании автономных ИИ-систем в боевых действиях.
По мнению аналитиков, наилучший сценарий будущего может напоминать обратную версию "Терминатора" — где человек из будущего возвращается, чтобы уничтожить первого военного робота, пока не стало слишком поздно. И, как ни парадоксально, именно такой вариант может оказаться наиболее оптимистичным для всего человечества.
Генеральный директор OpenAI Сэм Альтман, возглавляющий компанию, создавшую известного чат-бота ChatGPT, рассказал о своём взгляде на будущее искусственного интеллекта. По его мнению, человечество находится на грани появления цифрового сверхразума, и остановить этот процесс уже не представляется возможным. Альтман уверен, что в ближайшие годы ИИ преодолеет привычные границы возможностей и начнёт делать научные открытия, которые были бы недоступны человеку без его помощи.
Ранее сообщалось о том, что ждать от ИИ через 30 лет. Будущее с ИИ сулит не только прорывы, но и риски.
Напомним, ранее Главред писал о новом гаджете с ИИ, топ-платформой и автономностью. Опубликован первый официальный ролик с участием Pixel 10 Pro.
Вам может быть интересно:
LADbible Group - британский цифровой издатель. Медиа-бренды LADbible Group имеют приближающуюся к миллиарду аудиторию с 262 миллионами подписчиков во всем мире на основных платформах социальных сетей.
Компания публикует оригинальные и приобретенные материалы, включая редакционные, видео- и документальные материалы, некоторые из которых транслируются в прямом эфире. Их содержание включает развлечения и интервью со знаменитостями, а также новости и текущие события, пишет Википедия.