Нейт Соарес, экс-инженер корпораций Google и Microsoft, а ныне директор некоммерческого института Machine Intelligence Research Institute (MIRI), выступил с мрачным прогнозом: вероятность исчезновения человечества из-за искусственного интеллекта составляет, по его мнению, не менее 95%.
Соарес, посвятивший свою работу вопросам безопасности ИИ, выразил серьёзную обеспокоенность текущими темпами и методами разработки умных систем. По его словам, человечество создаёт мощные вычислительные модели, не до конца понимая, как именно они работают и чем могут обернуться в будущем.
«Вы можете сделать умные компьютеры, не имея ни малейшего представления о том, что они делают. Мы бросаем на огромные массивы данных чудовищные объёмы вычислений, и это каким-то образом меняет сами машины. Но никто не знает точно, что происходит внутри этих моделей», — заявил он в интервью The Times.
Соарес сравнил нынешнюю ситуацию с автомобилем, летящим на полной скорости в пропасть:
«Я не утверждаю, что остановить эту машину невозможно. Но сейчас она мчится к краю, а мы даже не тормозим», — добавил эксперт.
Издание также отмечает, что текущий этап развития искусственного интеллекта называют «узким» (narrow AI), поскольку он способен выполнять отдельные задачи. Однако всё больше экспертов считают, что в течение ближайших 12 месяцев возможен переход к общему искусственному интеллекту (AGI), способному мыслить наравне с человеком. Следующий шаг — суперинтеллект, обладающий возможностями, недоступными человеческому разуму: например, излечение всех болезней, или даже межгалактические путешествия.
Но с этой перспективой возникает и риск: суперинтеллект может воспринять человечество как угрозу или помеху собственному развитию.
Несмотря на мрачный прогноз Соареса, другие специалисты оценивают риски умереннее:
- Холли Элмор, глава движения PauseAI, оценивает вероятность глобальной катастрофы из-за ИИ в 15–20%;
- Илон Маск говорит о 20%;
- Сундар Пичаи, CEO Google, — о 10%.
Однако, как подчёркивает The Times, даже эти «оптимистичные» оценки наводят на тревожные мысли.
