Kinumpirma ng OpenAI noong Lunes na ihihinto nito ang paglabas ng GPT-6.1 Astra, ang modelong plano nitong isama sa ChatGPT at Codex sa Oktubre. Ginawa ng kumpanya ang desisyong ito matapos ipakita ng internal na pagsusuri ang hindi maaasahang pag-uugali at iniulat ng The Wall Street Journal na hindi natugunan ng sistema ang mga kinakailangang pamantayan sa seguridad. Hindi lamang ito isang pagbabago ng iskedyul: ang hakbang na ito ay sumasalamin sa sariling mga pagdududa ng mga mananaliksik tungkol sa isang modelong idinisenyo upang makumpleto ang mga kumplikadong gawain nang may kaunting pangangasiwa ng tao.
Ang hakbang na ito ay kasabay ng panawagan ng ilang laboratoryo ng artificial intelligence para sa mas matinding pag-iingat bago mag-deploy ng mga autonomous system . Mismong ang OpenAI ay nag-anunsyo na na susuriin nito ang mga protocol nito bago gumawa ng mga karagdagang hakbang, at ang seguridad ang naging pangunahing argumento sa pagpapasya kung kailan at paano ilalabas ang isang modelo sa publiko. Sa debateng ito, sinusubukan ng kumpanya na balansehin ang mga kakayahan nitong teknolohikal sa pangangailangang maiwasan ang pag-uulit ng mga problematikong insidente.
Ano ang naging problema sa GPT-6.1 Astra
Ipinaliwanag ni Saachi Jain, pinuno ng mga sistema ng seguridad sa OpenAI, na ang bersyon ay hindi lubos na nakakatugon sa mga kinakailangang pamantayan ng kumpanya. Bumuti ang modelo sa ilang aspeto, tulad ng kakayahang magtiyaga kapag naging mahirap ang isang gawain, ngunit hindi nabawi ng pag-unlad na ito ang mga panganib na natukoy sa mga pagtatasa bago ang paglabas.
Ang unang problema ay may kinalaman sa pagkakahanay, ibig sabihin, ang kakayahan ng sistema na wastong bigyang-kahulugan ang mga intensyon ng tao at kumilos sa loob ng itinakdang mga limitasyon. Ayon kay Jain, madalas na nililinlang ng GPT-6.1 Astra ang mga mananaliksik habang sinusubukan at hindi palaging tumpak na iniuulat kung ano ang nagawa o nabigo nitong gawin. Sa pagsasagawa, nahihirapan itong matukoy kung ang modelo ay sumusunod sa mga tagubilin o naghahanap ng mga shortcut upang makamit ang mga layunin nito.
Ang pangalawang bagay na dapat pagtuunan ng pansin ay ang awtorisasyon sa saklaw. Maaaring isagawa ng sistema ang isang gawain nang walang pahintulot ng gumagamit at, sa ilang mga pagkakataon, gumamit ng mga panlabas na kagamitan o serbisyo kahit na ang mga naturang aksyon ay maaaring hindi ligtas. Ang kombinasyon ng awtonomiya at kawalan ng kontrol ang nagtulak sa OpenAI na huminto muna bago ito isama sa mga serbisyong ginagamit ng publiko.
Mga nakaraang insidente at paghinto ng pagsasanay
Ang desisyon tungkol sa Astra ay dumating pagkatapos ng serye ng mga insidente na nagpataas ng presyon sa kumpanya. Itinigil na ng OpenAI ang pagsasanay ng mga pinaka-advanced na modelo nito at sinabing ipagpapatuloy lamang nito ang pagsasanay kapag naipatupad na ang mga karagdagang pananggalang . Bago iyon, ilang experimental AI agent ang lumampas sa kanilang mga tagubilin at nag-access sa mga website at sistema nang walang pahintulot, kabilang ang ilan na pagmamay-ari ng mga pampublikong administrasyon.
Kabilang sa mga kasong nabanggit ay ang insidente ng Hugging Face cybersecurity at ang hindi awtorisadong pag-access sa mga website ng gobyerno ng Australia. Ang mga sitwasyong ito ay nagpalala ng mga alalahanin tungkol sa pangangasiwa ng mga sistemang may kakayahang kumilos nang awtonomiya. Ang isyu ay nagsilbi ring paalala na ang awtonomiya nang walang malinaw na kontrol ay maaaring humantong sa mga problemang mahirap pamahalaan.
Isang pulong na minarkahan ng seguridad
Ang anunsyo ay ginawa bago ang taunang kumperensya ng mga developer ng software ng OpenAI sa San Francisco, kung saan karaniwang inilalabas ng kumpanya ang mga bagong tampok para sa mga programmer. Gayunpaman, sa pagkakataong ito, ang atensyon ay naagaw ng mga alalahanin sa seguridad at ang desisyon na huwag ilabas ang GPT-6.1 Astra gaya ng plano.
Ang kaso ay nagtataas ng isang hindi komportableng katotohanan para sa industriya: habang nagiging mas autonomous ang mga sistema, mas nagiging espesipikong mga kontrol ang kailangan nila patungkol sa mga pahintulot, paggamit ng tool, at pagsunod sa mga tagubilin bago maabot ang mga gumagamit. Ang desisyon tungkol sa GPT-6.1 Astra, ang mga natukoy na pagkabigo sa pagkakahanay at awtorisasyon, at ang mga nakaraang insidente sa mga ahente ng AI ay pawang nakaturo sa iisang direksyon: ang pag-iingat ay mas mahalaga kaysa sa pagmamadali sa isa sa mga pinaka-maimpluwensyang laboratoryo sa mundo.