Anthropic mande yon poz mondyal pou sekirite AI pandan OpenAI mande règ gouvènman yo dirije

Anthropic vle gwo aktè yo nan entèlijans atifisyèl (AI) dakò sou yon sistèm pataje ki ta ka ralanti oswa kanpe travay sou zouti AI ki pi pwisan yo si danje yo vin twò gwo, li di vitès pwogrè a ta ka rann kontwòl imen pi difisil pou kenbe.

Konpayi ki fè chatbot Claude la te ekri nan yon pòs blog jedi ke, pandan AI fwontyè ap vin pi rapid anpil nan fini travay, "li ta bon pou lemonn gen opsyon pou ralanti oswa fè yon poz tanporè" nan devlopman pi lwen.

Anthropic di enstiti rechèch entèn li a gen entansyon etidye kesyon an ak patnè ekstèn epi "pran aksyon" pou kreye aranjman pratik pou yon ralentisman oswa yon kanpe ki kredib, menm si li pa t eksplike ki etap sa yo ta ye.

OpenAI, youn nan prensipal konpetitè Anthropic yo, te prezante yon pozisyon diferan nan yon rapò ki te pibliye mèkredi. Li te di "gouvènman demokratik yo, pa konpayi prive k ap aji poukont yo, dwe finalman detèmine règ yo, pwoteksyon yo ak mekanis rann kont yo".

"Pozisyon nou se desizyon sou vitès inovasyon AI pa ta dwe rete nan men okenn laboratwa, konpayi oswa gwoup enterè espesyal poukont li," OpenAI te di.

Nan pòs li a, Anthropic te di sistèm AI yo ap amelyore rapidman, tankou nan kapasite yo pou fè travay lojisyèl tankou kòd san entèvansyon dirèk moun. Si tandans aktyèl yo kontinye epi ase resous enfòmatik disponib, li te di, yon modèl AI ta ka yon jou kreye epi konstwi pwòp ranplasman li, yon pwosesis yo rele "oto-amelyorasyon rekizif".

Anthropic te di AI ki kapab ede konstwi pwochen jenerasyon li ta make yon gwo avans e li ta ka soutni dekouvèt nan syans, medsin ak lòt domèn. Sepandan, konpayi an avèti sa "ta ka ogmante tou risk pou moun pèdi kontwòl sou sistèm AI yo."

Enkyetid sa a se yon sijè kèk moun nan sektè teknoloji a soulve depi plizyè ane. Apèl Anthropic la vini apre yon lòt avètisman semèn sa a nan men chèchè University of Toronto, ki te montre kijan zouti AI yo ta ka sèvi pou fè yon nouvo kalite "vè" AI ki chanje metòd pirataj li pandan l ap deplase atravè aparèy epi pran kontwòl yon gwo rezo òdinatè.

"Mwen panse li vrèman enpòtan pou moun konprann se pa sèlman pi gwo ak pi pwisan modèl lang yo ki poze enkyetid sekirite yo," chèchè prensipal Nicolas Papernot te di nan yon entèvyou.

Pòs blog Anthropic la te ekri pa ko-fondatè konpayi an Jack Clark ak Marina Favaro, ki dirije enstiti rechèch li a. Yo te di nenpòt poz ta bay "estrikti sosyal ak rechèch sou aliman" plis tan pou yo ratrape devlopman AI. Nan endistri a, aliman vle di efò pou asire sistèm AI yo aji ann akò ak valè ak objektif moun.

Dapre kalite aranjman Anthropic te dekri a, gwo laboratwa AI yo ta kapab verifye si konpetitè entènasyonal yo te vrèman ralanti oswa kanpe pwojè yo, "epi pou yon aktè malveyan pa ta ka sèvi ak kouvèti yon ralentisman kowòdone pou pran devan an sekrè."

Anthropic te fè konnen yon sistèm kowòdinasyon mondyal nesesè paske, san sa, nenpòt konpayi ki ralanti ta ka pèmèt operatè "ki pi piti pridan" yo pran teren, sa ki ogmante presyon sou konpayi ak gouvènman k ap fè fas ak desizyon difisil sou sekirite AI.

Pòs la vini pandan Anthropic ak OpenAI, devlopè ChatGPT, ap kouri pou vann aksyon sou mache bousye a, ak yon IPO ki ta ka mete valè Anthropic toupre US$1 trillion.

Anvan li te pibliye rapò li a, Papernot te avèti responsab sibèsekirite Kanadyen yo. Rapò a eksplike ekip rechèch la te konstwi vè a nan yon laboratwa avèk yon zouti AI "open-source" devlopè lojisyèl yo ka jwenn aksè ladan l epi modifye a ba pri.

"Nan tan lontan, sibè-atakan yo te konn konsantre sou sib ki gen anpil valè," li te di. "Sistèm bankè, lopital, rezo elektrisite, sistèm tretman dlo, lekòl."

Papernot te di li dakò konpayi yo, òganis gouvènman yo ak chèchè inivèsite yo ta dwe travay pi sere sou mezi defans pandan zouti pirataj ki jwenn asistans AI fè li vin pi bon mache ak pi rapid anpil pou jwenn feblès nan sistèm òdinatè yo.

"Vye laptop ou genyen nan sousòl ou a, ke ou pa tcheke regilyèman, pa sanble yon sib ki gen anpil valè, men li ka sèvi kòm yon baz lansman pou atake sib sa yo ki gen plis valè," li te di. "Nenpòt bagay ki konekte ak Entènèt la kounye a an risk akoz jan pri pou lanse sibè-atak sa yo vin ba."