Почему искусственный сверхинтеллект может привести к гибели человечества? И есть ли шанс этого избежать?
В 2023 году сотни известных экспертов по искусственному интеллекту подписали открытое обращение, в котором предупредили: для человеческой цивилизации существует реальная и крайне серьезная опасность. Однако государства и корпорации продолжают гонку за созданием систем, превосходящих человека по интеллекту, тогда как мир почти не подготовлен к последствиям такого прорыва.
На протяжении нескольких десятилетий двое подписантов того письма — Элиезер Юдковский и Нейт Соарес — исследовали, как может рассуждать и действовать сверхинтеллект. Их выводы тревожны: столкновение интересов продвинутых ИИ и людей практически неизбежно, и в таком противостоянии у нас нет шансов выиграть. По каким причинам и каким образом сверхинтеллект способен уничтожить человеческий вид? Что нужно предпринять, чтобы выжить? Авторы ясно, подробно и наглядно объясняют свою позицию и призывают каждого задуматься об экзистенциальной угрозе, нависшей над всеми нами — пока еще остается время.
