Недавно Дарио Амодей опубликовал новое эссе под названием «Подростковый период технологий», которое является продолжением его предыдущей работы «Машины милосердия». Если в первом эссе рассматривалась утопия с искусственным интеллектом, то новое обращает внимание на то, как достичь этой цели. По мнению Амодея, «мощный ИИ», обладающий интеллектом, превосходящим нобелевских лауреатов, может появиться в течение 1-2 лет. Центральная идея работы — «страна гениев в дата-центре», где миллионы ИИ работают быстрее человека.
Амомдей выделяет пять ключевых рисков: автономия ИИ, угроза биотерроризма, захват власти автократиями, экономические потрясения и косвенные эффекты, такие как «ИИ-психозы». Он подчеркивает, что биологические угрозы являются наиболее серьезными, и называет меры защиты, включая Constitutional AI и законы о прозрачности. Глава Anthropic критикует крайности в оценке рисков и подчеркивает необходимость реалистичного подхода к ситуации.