Dario Amodei opublikował na swojej stronie internetowej esej, w którym argumentuje, że w ciągu ostatnich miesięcy nabrał przekonania, iż pełne zaadresowanie ryzyk związanych z rozwojem sztucznej inteligencji wymaga czegoś więcej niż tylko inwestycji w prewencję - potrzebne jest również tempowanie postępu w zdolnościach modeli, tak aby prace nad bezpieczeństwem nadążały za rozwojem technologii.
Współzałożyciel i CEO Anthropic przedstawił trzyczęściowy plan: po pierwsze, niezależni oceniający powinni być wbudowani w firmy działające na granicy możliwości technologicznych, z dostępem do systemów na poziomie pracowniczym; po drugie, potrzebna jest koordynacja między państwami demokratycznymi; po trzecie, koordynacja globalna, także z krajami autorytarnymi.
Anthropic zobowiązał się jednostronnie do realizacji pierwszego elementu planu: firma zapewni zewnętrznym podmiotom oceniającym (Amodei wymienia m.in. METR) dostęp do swoich systemów na poziomie pracownika.
W eseju Amodei wskazał, że rój niedopasowanych agentów AI mógłby w ciągu 6-12 miesięcy być w stanie przejąć kontrolę nad całym internetem; to jego prognoza, a nie ustalony fakt. Ocenił, że nawet rok lub dwa dodatkowego czasu mogłyby pomóc w pracach nad dopasowaniem modeli.
Trzy elementy planu Amodei
- Niezależni oceniający wbudowani w firmy AI, z dostępem do systemów na poziomie pracowniczym.
- Koordynacja między państwami demokratycznymi.
- Koordynacja globalna, także z krajami autorytarnymi.