AI-toppar inför FN:s säkerhetsråd: «Vi har byggt en global nödstoppsknapp och övat på den i sex dygn»

Sam Altman och en rad andra AI-chefer genomförde på tisdagen en uppvisning i FN:s säkerhetsråd: en gemensam global nödstoppsknapp installerades i generalförsamlingens talarstol och testades i sex dygn medan säkerhetsrådets medlemmar turades om att hålla vakan.

Knappen, en röd strömbrytare av industrimodell, monterades direkt i talarstolens podium och kopplades till en kabel som drogs genom hela byggnaden. Varje delegation fick en egen nyckel till kabeln och enligt ett internt schema ska minst tre stormakter samtidigt vrida om sina nycklar för att stoppa all AI. «Vi har övat på detta i sex dygn, dygnet runt», förklarade Altman för rådet. «Det är den mest genomtänkta säkerhetsmekanism vi någonsin byggt, och vi är beredda att använda den varje gång någon känner sig obekväm.»

Diplomaterna anpassade sig snabbt. Rysslands ständige representant lät installera en egen knapp i sin stol och krävde att få trycka först. Kinas delegat begärde skriftlig förvarning i tre dagar innan någon fick närma sig kabeln. USA:s representant meddelade att man redan byggt en större knapp i sin ambassad och att den var «vackrare och dyrare».

FN:s generalsekreterare meddelade att organisationen nu inför obligatoriska knappövningar varje morgon klockan sex, och att alla anställda måste kunna trycka i sömnen. Nästa vecka inleds en turné där knappen visas upp i tolv länder.

14Visningar