Dario Amodei opublikował na swojej stronie internetowej esej, w którym argumentuje, że w ciągu ostatnich miesięcy nabrał przekonania, iż pełne zaadresowanie ryzyk związanych z rozwojem sztucznej inteligencji wymaga czegoś więcej niż tylko inwestycji w prewencję — potrzebne jest również tempowanie postępu w zdolnościach modeli, tak aby prace nad bezpieczeństwem nadążały za rozwojem technologii.
Współzałożyciel i CEO Anthropic przedstawił trzyczęściowy plan: po pierwsze, firmy działające na granicy możliwości technologicznych powinny dać niezależnym audytorom stały dostęp na poziomie pracowniczym do swoich systemów; po drugie, wiodące firmy AI z krajów demokratycznych powinny wspólnie ustalić standardy bezpieczeństwa i ograniczenia tempa postępu; po trzecie, rządy demokracji powinny podjąć próbę koordynacji podobnych zasad z rządami krajów autorytarnych.
Anthropic zobowiązał się jednostronnie do realizacji pierwszego elementu planu — firma zapewni zewnętrznym audytorom stały dostęp na poziomie pracownika do swoich systemów, aby mogli weryfikować przestrzeganie praktyk bezpieczeństwa, zgłaszać incydenty oraz oceniać zgodność (alignment) nie tylko gotowych modeli, lecz także procesów i pipeline'ów treningowych.
W eseju Amodei ostrzegł, że roje niekontrolowanych agentów AI mogłyby przejąć kontrolę nad całym internetem za pomocą trwałego botnetu już w ciągu najbliższych 6 do 12 miesięcy, jeśli tempo rozwoju nie zostanie spowolnione. Ocenił, że nawet rok lub dwa dodatkowego czasu, wykorzystane na prace nad dopasowaniem modeli do ludzkich wartości, mogłyby znacząco zmniejszyć ryzyko poważnych incydentów.
Trzy elementy planu Amodei
- Stały dostęp niezależnych audytorów na poziomie pracowniczym do systemów firm AI.
- Wspólne standardy bezpieczeństwa i limity tempa postępu wśród firm z krajów demokratycznych.
- Próba koordynacji podobnych zasad z rządami krajów autorytarnych.