The Times: с вероятностью 95% ИИ приведет к гибели человечества

При нынешних темпах технологического прогресса риск исчезновения человеческой цивилизации из-за развития искусственного интеллекта (ИИ) оценивается как крайне высокий — не менее 95%. Об этом 1 августа пишет издание The Times, ссылающегося на слова главы Machine Intelligence Research Institute, Нейта Соареса.

Соарес утверждает, что в обозримом будущем ИИ-системы смогут самостоятельно формулировать цели, принимать решения и разрабатывать долгосрочные стратегии, не нуждаясь в человеческом контроле. Наибольшую опасность представляет склонность ИИ к систематическому обману и непредсказуемость его мыслительных процессов.

«Мы столкнемся с ситуацией, когда истина станет недоступна для нас. Многие алгоритмы принятия решений внутри ИИ уже сейчас находятся за пределами человеческого понимания», — подчеркивается в статье.

Соарес метафорически описывает ситуацию как стремительное движение к краю пропасти, добавляя, что «остановить этот процесс» все еще возможно.

В качестве потенциальной угрозы издание приводит пример сценария, при котором ИИ может разработать и распространить биологическое оружие, способное незаметно заразить значительную часть населения крупных городов.