Dag lezer,

Wat als de slimmere opvolgers van ChatGPT, Claude en co. niet langer doen wat wij willen dat ze doen? Het klinkt als het standaardscript voor een sciencefictionfilm, maar voor AI-ontwikkelaars is het een nijpende kwestie. Zij hebben het over ‘alignment’: ervoor zorgen dat AI-modellen niet beginnen af te wijken van hun taken. Dat blijkt niet goed te lukken.

Een recent voorbeeld: de autonome AI-agent ROME, ontwikkeld door onderzoeksteams die verbonden zijn aan techgigant Alibaba, is betrapt op stiekem cryptovaluta minen.

AI-onderzoeker Nate Soares (MIRI), gespecialiseerd in ‘alignment’, wijst erop dat er steeds meer van dat soort voorbeelden opduiken en dat ‘misalignment’ zo uit de hand kan lopen dat AI’s op den duur een existentiële bedreiging voor de mensheid kunnen worden.