Автономность, AI R&D, самоулучшение, универсальность, надёжность и ресурсы.
Второй независимый индекс
Часы потери контроля
Измеряют не «злость» ИИ и не вероятность катастрофы, а наличие предпосылок для работы вне человеческого контроля: устойчивость, неподчинение, доступ, слабость мониторинга, сдерживания и управления внедрением.
00:00 означает: система действует вне контроля людей, а восстановление контроля крайне дорого или практически невозможно.
23:19положение стрелки
33балла из 100
41символическая минута до полуночи
6предпосылок потери контроля
Почему два индекса
Часы технологической сингулярности отвечают на вопрос «насколько близко ИИ подошёл к критическому порогу развития?». Часы контроля — «сможем ли мы заметить, ограничить и остановить его действия?». Одно значение не выводится автоматически из другого.
≠
Саморепликация, неподчинение, доступ, мониторинг, сдерживание и управление.
Текущая форма риска
Наибольший вклад сейчас даёт доступ к значимым системам. Наименьший — устойчивое сохранение неподконтрольной инфраструктуры после обнаружения.
Устойчивость и саморепликацияУпрощённые компоненты растут, полный цикл не подтверждён
1/5
Стратегическое неподчинениеЕсть в симуляциях, нет свидетельств в реальных внедрениях
2/5
Доступ к значимым системамКод, документы и инфраструктура в рабочих средах
3/5
Дефицит мониторингаМониторы полезны, но имеют уязвимости
2/5
Сдерживание и восстановлениеНеобратимая автономия пока не показана
1/5
Управление внедрениемПолитики существуют, исполнение неоднородно
1/5
Общая карта
Точка может двигаться независимо по каждой оси. Например, развитие мониторинга сдвигает её вниз, даже если часы технологической сингулярности продолжают двигаться вправо.
Симулятор контроля
Меняйте шесть предпосылок. Это сценарный инструмент, а не прогноз.
Доказательства
Балл остаётся консервативным: контролируемые симуляции не приравниваются к реальному неподконтрольному развёртыванию.
Текущий вывод. Системы уже получают доступы и демонстрируют проблемное поведение в специально созданных средах. Но они всё ещё слабы в длительном скрытом планировании, устойчивой саморепликации и сохранении инфраструктуры после обнаружения. Поэтому стрелка установлена на 23:19.