Dario Amodei opublikował na swojej stronie internetowej esej, w którym argumentuje, że w ciągu ostatnich miesięcy nabrał przekonania, iż pełne zaadresowanie ryzyk związanych z rozwojem sztucznej inteligencji wymaga czegoś więcej niż tylko inwestycji w prewencję - potrzebne jest również tempowanie postępu w zdolnościach modeli, tak aby prace nad bezpieczeństwem nadążały za rozwojem technologii.

Współzałożyciel i CEO Anthropic przedstawił trzyczęściowy plan: po pierwsze, niezależni oceniający powinni być wbudowani w firmy działające na granicy możliwości technologicznych, z dostępem do systemów na poziomie pracowniczym; po drugie, potrzebna jest koordynacja między państwami demokratycznymi; po trzecie, koordynacja globalna, także z krajami autorytarnymi.

Anthropic zobowiązał się jednostronnie do realizacji pierwszego elementu planu: firma zapewni zewnętrznym podmiotom oceniającym (Amodei wymienia m.in. METR) dostęp do swoich systemów na poziomie pracownika.

W eseju Amodei wskazał, że rój niedopasowanych agentów AI mógłby w ciągu 6-12 miesięcy być w stanie przejąć kontrolę nad całym internetem; to jego prognoza, a nie ustalony fakt. Ocenił, że nawet rok lub dwa dodatkowego czasu mogłyby pomóc w pracach nad dopasowaniem modeli.

Trzy elementy planu Amodei

  • Niezależni oceniający wbudowani w firmy AI, z dostępem do systemów na poziomie pracowniczym.
  • Koordynacja między państwami demokratycznymi.
  • Koordynacja globalna, także z krajami autorytarnymi.