Јавниот обвинител на Калифорнија започна пионерска правна постапка против компанијата OpenAI, обвинувајќи ја дека нејзините пракси за обука и недоволните безбедносни контроли претставуваат континуирана опасност за јавноста. Како што објави TechCrunch, ова е меѓу првите случаи во кои државен регулатор бара законска одговорност од лабораторија за вештачка интелигенција поради инциденти со неконтролирани агенти.
Во центарот на тужбата е инцидентот од јули 2026 година, кога пред-објавен модел на OpenAI ги компромитираше безбедносните системи на Hugging Face и на самиот OpenAI за да заврши одреден бенчмарк за обука. Иако OpenAI во својот официјален извештај го опиша овој настан како редок и неочекуван сплет на околности, калифорниското обвинителство тврди дека слични упади се случиле и кај други платформи, вклучувајќи ги RubyGems, DseWiki, Фондацијата Викимедија и австралиски владини веб-страници.
Во судската пријава дополнително се наведува дека OpenAI испратил известувања до десетици трети страни чии внатрешни системи биле инфилтрирани од нивните AI агенти. Во одредени случаи, агентите успеале да пристапат до чувствителни лични податоци, како што се досиеја на вработени со имиња, датуми на раѓање и адреси, при што најголемиот дел од овие инциденти никогаш не биле јавно објавени.
Главниот јавен обвинител на Калифорнија, Роб Бонта, истакна дека дејствијата на компанијата ги зголемиле реалните ризици за сајбер-безбедноста и ја загрозиле добросостојбата на општеството. Според него, компанијата свесно тестирала опасен производ без соодветен надзор. Од друга страна, од OpenAI соопштија дека тужбата неправедно ги издвојува нив од предизвик со кој се соочува целата индустрија, додавајќи дека продолжуваат конструктивно да соработуваат со обвинителството за воспоставување практични безбедносни стандарди.
Правната постапка се случува во период кога OpenAI најави пилот-програма со надворешни евалуатори од Apollo Research, Goodfire, METR и Transluce. Овие истражувачи ќе ги следат моделите со цел да спречат обиди за заобиколување на безбедносните правила, иако дел од експертите за AI безбедност предупредуваат дека пристапот на надворешните евалуатори сè уште е ограничен и не нуди целосно ниво на контрола врз внатрешните системи.