@ESYudkowsky

Выпуск

2 твитов

Юдковски критикует концепцию P(doom), поскольку она смешивает вероятность катастрофы при появлении ASI с вероятностью самого появления ASI, зависящей от будущей политики. Он считает катастрофический исход практически неизбежным для ASI, созданного на основе современных подходов и нынешними AI-компаниями. При этом он допускает существование полезных вариантов ASI, но не верит, что нынешние оптимисты способны гарантированно ограничиться их созданием.

Темы: P(doom) · риски ASI · политика в AI · выравнивание ASI · AI-оптимизм

Ключевые твиты