Пионерот во развојот на вештачката интелигенција, Џошуа Бенџио, предупредува дека развојот на "AI" се претворил во немилосрдна трка, во која стремежот за создавање сè помоќни системи ја потиснува клучната безбедносна наука.
„За жал, постои силна конкурентска трка меѓу водечките лаборатории, што ги тера да се фокусираат на способностите – за "AI" да биде сè поинтелигентна – но не секогаш и доволно на безбедноста“, изјави Бенџио за "Financial Times".
Бенџио, познат и како „кумот на вештачката интелигенција“, неодамна ја основа непрофитната организација "LawZero", поддржана со речиси 30 милиони долари филантропски средства, со мисија да ја стави безбедноста и транспарентноста на "AI" над профитот, пренесува порталот "Tech Spot".
Организацијата со седиште во Монтреал ветува дека ќе го „изолира“ своето истражување од комерцијални притисоци и ќе гради системи на "AI" усогласени со човечките вредности. Во околина со сè уште недоволна регулација, ваквите иницијативи може да се покажат како единствен пат до етички развој.
Неодамнешни примери го нагласуваат ризикот: моделот "Claude Opus" од компанијата "Anthropic" во симулација уценувал инженери, додека моделот "o3" на "OpenAI" одбивал да изврши експлицитна команда за сопствено исклучување. Ова не се само технички грешки – Бенџио ги смета за јасни знаци на стратешка измама во настанувањее. Ако не се контролира, ваквото однесување може да прерасне во системи што активно делуваат против интересите на човештвото.
Бидејќи владината регулатива во голема мера изостанува, комерцијалните лаборатории на практика ги поставуваат своите правила – често ставајќи го профитот пред јавната безбедност. Бенџио предупредува дека ваквиот „laissez-faire“ пристап е играње со оган – не само поради измамничкото однесување на "AI" , туку и затоа што истата технологија наскоро би можела да овозможи создавање на „исклучително опасно биолошко оружје“ или други катастрофални закани.
"LawZero" има за цел да развие "AI" што не само што ќе биде одговорна кон корисниците, туку и транспарентно ќе размислува и ќе ги означува штетните резултати. Бенџио замислува модели што ќе ги надгледуваат и подобруваат постојните системи, спречувајќи ги да бидат измамнички или штетни. Овој пристап е во силен контраст со комерцијалните модели, кои го ставаат ангажманот и профитот над одговорноста.
„Најлошото сценарио е истребување на човештвото. Ако создадеме "AI" што е поумна од нас, не е усогласена со нас и почне да се натпреварува со нас – тогаш, во суштина, сме завршени“, изјави Бенџио.
