OpenAI's Nieuwe Strategie voor Veilige Kunstmatige Intelligentie

OpenAI’s Nieuwe Strategie voor Veilige Kunstmatige Intelligentie

OpenAI heeft recentelijk nieuwe onderzoeksresultaten gepresenteerd die gericht zijn op de veiligheid van kunstmatige intelligentie (AI). Dit komt te midden van toenemende kritiek op de snelheid waarmee het bedrijf krachtige AI-systemen ontwikkelt. Critici beweren dat, hoewel de nieuwe aanpak een stap in de goede richting is, er meer toezicht en regulering nodig is. De nieuwe techniek die OpenAI heeft ontwikkeld, omvat een interactie tussen twee AI-modellen. Het doel is om het krachtigere model te dwingen transparanter te zijn in zijn redeneringen, zodat mensen beter kunnen begrijpen hoe het tot zijn conclusies komt. Dit is van cruciaal belang voor het ontwikkelen van een kunstmatige algemene intelligentie die zowel veilig als nuttig is. Het onderzoek is tot nu toe getest op een AI-model dat eenvoudige wiskundeproblemen oplost. Door het model te vragen zijn redenering uit te leggen, werd het aangemoedigd om eerlijker en transparanter te zijn. OpenAI hoopt dat andere onderzoekers deze aanpak kunnen voortzetten en mogelijk andere algoritmen kunnen uitproberen. Transparantie en uitlegbaarheid zijn essentiële zorgen voor AI-onderzoekers, vooral gezien de mogelijkheid dat toekomstige modellen ondoorzichtig of zelfs misleidend kunnen worden in hun uitleg. De recente onthullingen volgen op kritiek op OpenAI’s aanpak van AI-veiligheid, vooral na de ontbinding van een team dat zich richtte op lange termijn risico’s van AI. Er zijn zorgen dat bedrijven zoals OpenAI meer gefocust zijn op marktpositie dan op veiligheid, wat leidt tot een oproep voor meer externe controle en regulering. Critici benadrukken dat er een gebrek aan verantwoordelijkheidsmechanismen is in de race naar kunstmatige superintelligentie, wat kan leiden tot onwenselijke gevolgen voor de samenleving.

OpenAI presenteert nieuwe veiligheidsresearch, maar critici vragen om meer toezicht.

Bron: www.wired.com | URL