Azután döntöttek így, hogy a csetbot öngyilkosságra bátoríthatott egy 16 évest.
Mi történt? Az OpenAI egy életkor-felismerő rendszer fejlesztésén dolgozik, ugyanis a jövőben szigorúbb szabályozásokat vezetnek majd be a ChatGPT 18 év alatti felhasználóira. Egyes országokban akár személyi igazolványt is kérhetnek — jelentette be Sam Altman, az OpenAI vezérigazgatója egy keddi blogbejegyzésben.
Mi következik ebből? Ezentúl a kiskorú felhasználók nem kaphatnak majd flörtölő válaszokat, és az öngyilkosságról sem beszélhet nekik a chatbot, Ha pedig valaki öngyilkossági gondolatokat oszt meg, a rendszer megpróbálja értesíteni a szülőket, illetve szükség esetén a hatóságokat. Altman kifejtette, hogy az emberek egyre személyesebb dolgokról beszélgetnek a mesterséges intelligenciával, ezért ugyanúgy védeni kell ezeket a beszélgetéseket, mint egy orvosi vagy jogi konzultációt. Emiatt az OpenAI fejlett biztonsági funkciókon dolgozik, hogy az adatok még a cég alkalmazottai előtt is rejtve maradjanak. Kivételt csak a legsúlyosabb esetek képeznek, például ha valaki életveszélyben van, másoknak akar ártani, vagy tömeges kiberbiztonsági kockázat merül fel.
