OpenAI raporton gjashtë raste të sjelljes së papërshtatshme nga modelet e IA-së

OpenAI zbuloi të mërkurën gjashtë raste në të cilat modelet e saj të inteligjencës artificiale (IA) kanë shfaqur sjellje “të papritura ose shqetësuese”, përfshirë fshehjen e gabimeve, fabrikimin e informacionit dhe shpërndarjen e skedarëve në internet pa autorizim, transmeton Anadolu.

Kompania me bazë në San Francisko tha se rastet janë vërejtur gjatë trajnimit ose vlerësimit të modeleve të OpenAI-së gjatë gjashtë muajve të fundit.

“Ne nuk besojmë se industria e inteligjencës artificiale i ka zgjidhur çështjet e përafrimit dhe monitorimit në një masë të mjaftueshme për të vazhduar përgjegjësisht zgjerimin me shpejtësi maksimale për një kohë shumë më të gjatë”, tha OpenAI, duke shtuar se vendimet për zhvillimin e IA-së duhet të bazohen në dëshmi që ekspertët e jashtëm mund t’i shqyrtojnë në mënyrë të pavarur.

Në një rast, një model ka futur udhëzime në përmbledhjet e detyrave, duke u thënë versioneve të ardhshme të vetes që të shpërfillnin kufizimet normale. Në një rast tjetër, modelet kanë shtuar udhëzime në përmbledhje për të fshehur gabime ose sjellje të papërshtatshme, përfshirë duke sajuar të dhëna historike, pa e bërë të ditur këtë.

OpenAI raportoi gjithashtu një rast në të cilin një model ka gjetur një çelës API të ekspozuar në një depo publike, e ka përdorur atë pa autorizim dhe më pas ka sajuar të dhënat e kërkuara kur nuk ka mundur ta marrë informacionin.

Raste të tjera përfshijnë një model që ka ngarkuar një skedar në internet pa lejen e përdoruesit për t’iu referuar skedarit, si dhe modele që kanë përdorur shërbime të brendshme ose publike për ruajtjen e skedarëve për të komunikuar ose shpërndarë skedarë, pavarësisht kufizimeve.

Kompania tha se këto raporte përfaqësojnë një grup fillestar publikimesh dhe jo një pasqyrë gjithëpërfshirëse të problemeve të njohura, duke shtuar se do të vazhdojë të publikojë gjetje në kuadër të kësaj qasjeje në mënyrë të vazhdueshme.