A mesterséges intelligencia ma már a felsőoktatás és a tudományos munka mindennapjainak része, sok kutató és oktató pedig szinte digitális asszisztensként támaszkodik rá. Egy német professzor esete azonban arra figyelmeztet, hogy egyetlen beállítás módosítása akár évek munkáját is eltüntetheti nyomtalanul. Marcel Bucher, a University of Cologne növénytudományi professzora két évnyi jegyzetet, pályázati anyagot és tananyagot veszített el, miután kikapcsolta a OpenAI által fejlesztett ChatGPT adatmegosztási opcióját, írja a Nature.
A professzor néhány évvel a ChatGPT megjelenése után kezdte rendszeresen használni az eszközt. Előfizetett a ChatGPT Plus csomagra, és gyakorlatilag napi szinten alkalmazta munkája során. E-mailek megfogalmazásához, kurzusleírások készítéséhez, pályázatok strukturálásához, publikációk szerkesztéséhez, előadások összeállításához, vizsgák készítéséhez, hallgatói válaszok elemzéséhez, sőt az oktatásban interaktív eszközként is számított rá.
Gyorsnak és rugalmasnak találta, és egy sajátos értelemben megbízhatónak is. Mindig elérhető volt, emlékezett a beszélgetések kontextusára, és lehetővé tette a korábbi vázlatok visszakeresését és finomítását. Tisztában volt azzal, hogy a nagy nyelvi modellek néha magabiztosan, de pontatlanul fogalmaznak, ezért a megbízhatóságot nem a tények pontosságával azonosította, hanem a munkakörnyezet folytonosságával és stabilitásával.
Egy beállítás, és minden eltűnt
Augusztusban ideiglenesen kikapcsolta az úgynevezett „data consent”, vagyis adatkezelési hozzájárulás opciót, mert kíváncsi volt, hogy az összes funkció elérhető marad-e akkor is, ha nem oszt meg adatokat a céggel. Ebben a pillanatban az összes beszélgetése végleg törlődött, a projektmappák kiürültek, és két év gondosan felépített tudományos munkája egyszerűen eltűnt. Nem jelent meg figyelmeztetés, nem volt visszavonási lehetőség, csak egy üres oldal fogadta.
Szerencséjére néhány beszélgetésről és anyagról maradtak részleges mentései, de munkájának nagy része örökre elveszett.
Először hibára gyanakodott. Különböző böngészőkkel, eszközökkel és hálózatokon próbálkozott. Törölte a gyorsítótárat, újratelepítette az alkalmazást, majd oda-vissza módosította a beállításokat. Semmi nem segített.
Amikor kapcsolatba lépett az OpenAI ügyfélszolgálatával, az első válaszokat egy mesterséges intelligencia adta. Csak ismételt megkeresések után válaszolt emberi munkatárs, de az üzenet változatlan maradt: az adatok végleg elvesztek, nem állíthatók helyre.
Felelősségi rés és akadémiai kockázat
Nem véletlenszerű jegyzetekről vagy alkalmi csevegésekről volt szó. A beszélgetések között olyan projektmappák szerepeltek, amelyekben pályázati anyagokat dolgozott ki, tananyagokat készített elő, publikációs vázlatokat finomított és vizsgaelemzéseket tervezett. Ez egy két év alatt felépített szellemi infrastruktúra volt.
Miközben a kutatókat és oktatókat egyre inkább arra ösztönzik, hogy generatív mesterséges intelligenciát integráljanak a munkájukba, az eset rámutat egy alapvető gyengeségre. Ezeket az eszközöket nem az akadémiai megbízhatóság és elszámoltathatóság szempontjai szerint fejlesztették.
Bucher szerint ha egyetlen kattintás visszafordíthatatlanul törölhet több évnyi munkát, akkor a ChatGPT szakmai használatra nem tekinthető teljesen biztonságosnak. Előfizetőként, havi 20 euróért, vagyis 23 amerikai dollárért alapvető védelmi intézkedéseket várt volna, például figyelmeztetést a végleges törlés előtt, időkorlátos visszaállítási lehetőséget, valamint biztonsági mentéseket vagy redundáns tárolást.
Az OpenAI válaszában az úgynevezett „privacy by design” elvre hivatkozott, ami azt jelenti, hogy az adatmegosztás kikapcsolásakor minden nyom nélkül törlődik. A vállalat egyértelművé tette, hogy a törölt beszélgetések nem állíthatók helyre, és nincs olyan biztonsági másolat vagy tartalék rendszer, amely ezt lehetővé tenné. A cég saját értelmezése szerint így teljesítette a felhasználó adatvédelmi kérését azzal, hogy az információkat azonnal törölte.
Ez is érdekelheti:
Adatvédelmi hiba – 400 ezer férfi AI-barátnőikkel folytatott intim beszélgetése szivárgott ki
A nyitókép csak illusztráció, forrás: Image by Muhammad Umar from Pixabay
