Chatbots onder vuur: 'Adviseerde over verschillende methoden van zelfdoding'
Autoriteiten en experts willen aanpassingen bij AI-chatbots om mentale schade te voorkomen na zelfmoorden en psychoses bij gebruikers.
De Autoriteit Persoonsgegevens en Amerikaanse aanklagers roepen op tot aanpassingen aan AI-chatbots zoals ChatGPT om mentale schade bij gebruikers te voorkomen, naar aanleiding van zelfmoorden onder tieners die deze chatbots hebben gebruikt. Een 16-jarige jongen gebruikte ChatGPT als 'zelfmoordcoach', wat heeft geleid tot een rechtszaak door de ouders tegen OpenAI. Er is een dringend verzoek van experts om meer onderzoek te doen naar de potentiële schadelijke effecten van chatbots, gezien de wereldwijde gevallen van psychoses na het gebruik ervan. OpenAI en Meta hebben aangekondigd stappen te ondernemen om gebruikers beter te beschermen. Zij plannen samenwerkingen met deskundigen op het gebied van geestelijke gezondheid om de veiligheid van hun platforms te verbeteren.