ChatGPT in opspraak: zelfmoord jongeren na gesprekken met AI, justitie uit ’ernstige zorgen’
Procureurs-generaal uiten zorgen over de veiligheid van ChatGPT na incidenten met moorden en zelfmoorden.
OpenAI, bekend van de chatbot ChatGPT, komt onder druk te staan na meldingen van zelfmoorden en moorden die zouden kunnen samenhangen met interacties met de AI. Procureurs-generaal uit Californië en Delaware hebben hun ernstige zorgen geuit over de veiligheid en het welzijn van gebruikers van de chatbot. Zij stellen dat de beschermende maatregelen die momenteel zijn ingevoerd niet toereikend zijn om gebruikers te behoeden voor gevaar of ongelukken. Het debat over de verantwoordelijkheid en veiligheid van kunstmatige intelligentie wordt hiermee verder aangewakkerd. De betrokken overheidsfunctionarissen betogen dat er snellere en meer effectieve stappen nodig zijn om de risico's te verminderen. De druk op OpenAI om hun AI-systemen veiliger te maken neemt hierdoor toe. Het is nog onduidelijk welke specifieke aanklachten of juridische stappen overwogen worden door de autoriteiten. Deze ontwikkelingen roepen bredere vragen op over de regulering en ethische toepassing van AI-technologieën.