Åtta personer dödades i en av Kanadas värsta skolskjutningar efter att ett ChatGPT-konto som stängdes i juni 2025 tidigare uppvisat oroande beteende. OpenAI:s vd Sam Altman bad om ursäkt och skrev att han är djupt ledsen över att företaget inte kontaktade polisen när kontot förbjöds. Minst en familj har stämt OpenAI och bolaget säger att rutinerna ska ses över.

I juni 2025 stängde OpenAI ett ChatGPT-konto för våldsam aktivitet. Bolaget bedömde då inte att kontot pekade på ett omedelbart hot. Åtta månader senare misstänks samma person ha mördat sin mamma, sin bror samt fem barn och en lärare på en skola i en mindre kanadensisk ort. Polisen svarade på larmet och kvinnan ska ha skjutit sig själv när myndigheterna kom till platsen. Sam Altman har öppet bett om ursäkt till invånarna i den kanadensiska staden och skrivit att han är djupt ledsen över att företaget inte kontaktade polisen efter att kontot lagts ned. Han säger att ord inte kan återställa förlusterna, men att en ursäkt är nödvändig för att erkänna skadan som drabbat samhället. Kanadensiska politiker och myndigheter har kritiserat OpenAI för att inte tidigare ha informerat polis eller andra myndigheter. Åtminstone en familj har stämt OpenAI och anklagar bolaget för oaktsamhet i hur man hanterade signaler om våld. OpenAI bekräftar att kontot stängdes för våldsam aktivitet och att företaget efteråt valde att inte slå larm. Ledningen uppger att rutinerna ska ses över och att samarbetet med polis och andra myndigheter ska fördjupas för att försöka förhindra liknande tragedier. Generativa AI-tjänster använder automatiska och manuella modereringssystem som kan stänga konton när regler bryts. Företag väger skydd av användardata mot risken att systemet kan utnyttjas för skadliga syften. Den rättsliga prövningen gäller i vilken mån en plattformsägare ansvarar när en användare visar våldsbenägenhet inom tjänsten, både tekniskt (upptäckt) och juridiskt (skyldighet att agera). Fallet ökar pressen på stora AI‑företag att förtydliga rutiner för när och hur man anmäler potentiellt farligt beteende till myndigheter. Möjliga tekniska åtgärder som nämns är förbättrade varningssystem och snabbare mänsklig granskning av oroande beteenden. OpenAI uppger att man nu ska stärka samarbetet med myndigheter för att försöka förhindra liknande tragedier framöver.

Related Articles

”Jag är djupt ledsen över att vi inte kontaktade polisen efter att kontot förbjöds”, skrev Sam Altman. Minst en familj har nu inlett rättsliga åtgärder mot OpenAI.

Den här artikeln har skapats med hjälp av AI.