Является ли ИИ угрозой существования человечества, или его опасность ограниченна военной сферой?
Этот вопрос решается на уровне цивилизационного взрыва технологий. Имеется концепт, что Атлантиду погубили возможности энергетики, военных технологий. При этом они могли сами себя погубить из-за отсутствия воли и самоограничения. Или Атлантиду уничтожили поскольку она вышла на конкурентный уровень с пришельцами.
Is AI a real threat or are military robots?
Угроза
Следует ли боятся ИИ?
При создании ИИ диапазон как при браке который может закончится чем угодно. Боятся, ожидать, страстно желать — дело личное.
Do we need to be afraid of artificial intelligence? Why or why not?
Is A.I. an existential threat to humanity?
Какие угрозы несет ИИ?
Является ли ИИ экзистенциональной угрозой для человека?
1. Автономность, которая может породить враждебность.
2. Видовое превосходство, человек теряет космическое значение.
What are the dangers of artificial intelligence?
Как мы можем защитить себя от убийства ИИ?
Описано довольно много тактических и стратегических сюжетов защиты от ИИ: от Станислава Лема до Дрекслера.
How can we protect ourselves from killer AI?
Как ИИ может прийти к решению стереть человечество с лица Земли?
Аргументации (pro et contra): ресурсная, видовая, непостижимые высшие соображения, ошибка.
ИИ может и не принимать решение о «стирании» человеков — это может быть обусловлено общим ходом истории.
Why would artificial intelligence decide to wipe us out?