OpenAI's Beoordelingssysteem voor Kunstmatige Algemene Intelligentie

OpenAI’s Beoordelingssysteem voor Kunstmatige Algemene Intelligentie

OpenAI heeft een intern systeem ontwikkeld om de voortgang van zijn grote taalmodellen richting kunstmatige algemene intelligentie (AGI) te volgen. Dit systeem is ingedeeld in vijf niveaus, waarbij niveau 1 de huidige chatbots zoals ChatGPT vertegenwoordigt. OpenAI beweert dat het bijna niveau 2 heeft bereikt, wat betekent dat de AI in staat is om basisproblemen op te lossen op het niveau van een persoon met een PhD. Niveau 3 verwijst naar AI-agenten die namens gebruikers acties kunnen ondernemen, terwijl niveau 4 AI betreft die in staat is om nieuwe innovaties te creëren. Niveau 5, de laatste stap naar AGI, is AI die het werk van hele organisaties kan uitvoeren. AGI wordt door OpenAI gedefinieerd als een hoogautonoom systeem dat de mensheid overtreft in de meeste economisch waardevolle taken.

De unieke structuur van OpenAI is gericht op het bereiken van AGI, en de manier waarop het bedrijf AGI definieert is cruciaal. OpenAI heeft verklaard dat als een waarde-gedreven, veiligheidsbewuste project dichter bij AGI komt dan zijzelf, het bedrijf niet zal concurreren en zal helpen. Dit laat ruimte voor interpretatie, maar de nieuwe beoordelingsschaal kan helpen om duidelijker te bepalen wanneer AGI is bereikt. Desondanks is AGI nog ver weg; experts schatten dat miljarden dollars aan rekencapaciteit nodig zijn om AGI te bereiken. OpenAI CEO Sam Altman schatte in oktober 2023 dat we ongeveer vijf jaar verwijderd zijn van het bereiken van AGI.

De nieuwe beoordelingsschaal werd geïntroduceerd kort na de aankondiging van een samenwerking met het Los Alamos National Laboratory, gericht op het veilig assisteren van bioscientific onderzoek met geavanceerde AI-modellen zoals GPT-4o. Een programmamanager bij Los Alamos benadrukte dat het doel is om de mogelijkheden van GPT-4o te testen en een set veiligheidsfactoren voor de Amerikaanse overheid vast te stellen.

In mei heeft OpenAI zijn veiligheidsteam ontbonden na het vertrek van Ilya Sutskever, een van de oprichters. Dit heeft geleid tot bezorgdheid over de veiligheidscultuur binnen het bedrijf, vooral als het gaat om het bereiken van AGI. OpenAI heeft geen details gegeven over hoe het modellen aan deze interne niveaus toewijst, maar er zijn demonstraties geweest van projecten die nieuwe vaardigheden tonen die menselijke redeneervaardigheden nabootsen. Dit beoordelingssysteem kan een strikte definitie van voortgang bieden, in plaats van het aan interpretatie over te laten.

OpenAI ontwikkelt een beoordelingssysteem om de voortgang van zijn AI-modellen naar kunstmatige algemene intelligentie te volgen.

Bron: The Verge | URL