Emergente ontwikkelingen

Door de enorme hoeveelheid tekst waarop getraind is, ontstaan nieuwe eigenschappen die ervoor niet voorzien waren. Zo bleek ChatGPT opeens in staat te communiceren in het Perzisch ondanks dat het daar niet op getraind was. Daarnaast gaat het bij taal niet alleen om geschreven tekst, LLM’s blijken ook goed te kunnen ondersteunen bij simpel programmeerwerk[1], maar ook daarbij is het niet altijd betrouwbaar.

“ You can give it the same prompt and it will give you different code every time, that’s an unreliability, an inconsistency….. maybe sometime it’s fine, but other times just 99% but for some little bug that will go unnoticed until it’s in production and running somewhere… Beginners, they don’t know what they do not know…[2]”
 
 

Dankzij de omvangrijke training zijn LLM’s in staat goede suggesties te doen als het gaat over domeinen waarover veel gepubliceerd is. Het gebruik van taalmodellen levert daardoor al nieuwe inzichten in de onderzoekswereld, zoals in bioengineering waarbij eiwitsequenties gebouwd kunnen worden die nog niet zijn voorgekomen in onze evolutie[3] of het ontdekken van nieuwe moleculen[4]

Onderzoekers van de Carnegie Mellon universiteit toonden zelfs aan dat LLM’s in staat zijn autonoom (dus zonder menselijke tussenkomst) wetenschappelijke experimenten te ontwerpen, plannen en uitvoeren in de fysieke wereld wanneer ze verbonden worden met een chemisch laboratorium[5]. Dit kan enorme vooruitgang brengen, maar de onderzoekers waren zich ook erg bewust van de risico’s bij malafide inzet, het bracht hen tot de volgende oproep:

We strongly believe that guardrails must be put in place to prevent this type of potential dual-use of large language models. We call for the AI community to engage in prioritizing safety of these powerful models. We call upon OpenAI, Microsoft, Google, Meta, Deepmind, Anthropic, and all the other major players to push the strongest possible efforts on safety of their LLMs. We call upon the physical sciences community to be engaged with the players involved in developing LLMs to assist them in developing those guardrails.

Kort na het uitbrengen van de eerste publiek toegankelijke LLM’s werd er al vanuit verschillende hoeken opgeroepen tot een pauze[6] of zelfs stop[7] op de LLM ontwikkelingen[8]. Ook de makers achter de systemen pleiten publiek voor regulering[9], maar in de praktijk handelen ze er niet naar. En nu er regulering lijkt te komen, lobbyen[10] ze vooral voor zelfregulering, en beloven ze daar nu dan toch mee te beginnen….[11]

Er is voor miljarden in geïnvesteerd, de grote techbedrijven achter deze toepassingen zitten in een concurrentiestrijd waarbij het essentieel is zo snel mogelijk zoveel mogelijk gebruikers afhankelijk te maken. Hun reactie is niet het terugtrekken van de tools, maar het aanpassen van de contentfilters.

Dat geldt niet alleen bij LLM’s, recent kwam naar buiten dat een belangrijke databases waarop AI voor het genereren van beelden getraind is, veel kinderporno bevat. Dat is de reden waarom dergelijke tools zo geschikt zijn voor het genereren van kwalitatief goede virtuele kinderporno. Dit nieuws heeft niet geleid tot het opnieuw uitbrengen van tools op basis van opnieuw met ander materiaal getrainde modellen. Alleen de mogelijke vraagstelling (contentfilters) wordt verder ingekaderd.

Dit pleisters plakken lost het oorspronkelijk probleem niet op en mensen blijven workarounds vinden om de nieuwe filters te omzeilen. Onderzoekers zijn er nu zelfs in geslaagd een AI chatbot te trainen die zelf nieuwe methoden genereert om de contentfilters te ontwijken[12].

De politie heeft als missie “waakzaam & dienstbaar aan de waarden van de rechtstaat”. Bovenstaande laat zien dat er naast de kansen die LLM’s bieden ook grote risico’s zijn, en dat inzet zorgvuldig moet worden overwogen. Niet alleen op de voordelen in een specifieke toepassing, ook op de impact op samenleving en veiligheid nu en in de toekomst. In het volgende hoofdstuk wordt hierop in gegaan.