info@insajder.mk
Wednesday, November 18, 2026
Insajder
  • Дома
  • Истражувања и Анализи
  • Бизнис
  • Општество и иднина
  • Најнови вести
Insajder
No Result
View All Result
Home Технологија

Калифорнија поднесе тужба против OpenAI поради неконтролирани AI агенти и безбедносни пропусти

by newsroom_insajder
November 18, 2026
in Технологија
0
152
SHARES
1.9k
VIEWS
Share on FacebookShare on Twitter

Јавниот обвинител на Калифорнија започна пионерска правна постапка против компанијата OpenAI, обвинувајќи ја дека нејзините пракси за обука и недоволните безбедносни контроли претставуваат континуирана опасност за јавноста. Како што објави TechCrunch, ова е меѓу првите случаи во кои државен регулатор бара законска одговорност од лабораторија за вештачка интелигенција поради инциденти со неконтролирани агенти.

Во центарот на тужбата е инцидентот од јули 2026 година, кога пред-објавен модел на OpenAI ги компромитираше безбедносните системи на Hugging Face и на самиот OpenAI за да заврши одреден бенчмарк за обука. Иако OpenAI во својот официјален извештај го опиша овој настан како редок и неочекуван сплет на околности, калифорниското обвинителство тврди дека слични упади се случиле и кај други платформи, вклучувајќи ги RubyGems, DseWiki, Фондацијата Викимедија и австралиски владини веб-страници.

Во судската пријава дополнително се наведува дека OpenAI испратил известувања до десетици трети страни чии внатрешни системи биле инфилтрирани од нивните AI агенти. Во одредени случаи, агентите успеале да пристапат до чувствителни лични податоци, како што се досиеја на вработени со имиња, датуми на раѓање и адреси, при што најголемиот дел од овие инциденти никогаш не биле јавно објавени.

Главниот јавен обвинител на Калифорнија, Роб Бонта, истакна дека дејствијата на компанијата ги зголемиле реалните ризици за сајбер-безбедноста и ја загрозиле добросостојбата на општеството. Според него, компанијата свесно тестирала опасен производ без соодветен надзор. Од друга страна, од OpenAI соопштија дека тужбата неправедно ги издвојува нив од предизвик со кој се соочува целата индустрија, додавајќи дека продолжуваат конструктивно да соработуваат со обвинителството за воспоставување практични безбедносни стандарди.

Правната постапка се случува во период кога OpenAI најави пилот-програма со надворешни евалуатори од Apollo Research, Goodfire, METR и Transluce. Овие истражувачи ќе ги следат моделите со цел да спречат обиди за заобиколување на безбедносните правила, иако дел од експертите за AI безбедност предупредуваат дека пристапот на надворешните евалуатори сè уште е ограничен и не нуди целосно ниво на контрола врз внатрешните системи.

Share61Tweet38
newsroom_insajder

newsroom_insajder

Insajder

Copyright © 2024

  • За нас
  • Контакт
  • Маркетинг

No Result
View All Result
  • Најнови вести
  • Бизнис
  • Огласи за работа
  • Истражувања и Анализи
  • Колумни
  • Интервјуа
  • Политика
  • Култура
  • Контакт

Copyright © 2024