Ang AI Safety para sa mga Smart Contract ay AI Safety para sa Mundo

Ang Technology ng Web3 at blockchain ay higit pa sa Bitcoin at NFTs. Habang mas nababatid ng mga negosyo ang mga posibilidad ng Web3, ONE tampok ang gaganap ng mahalagang papel: mga matalinong kontrata.

Ang mga matalinong kontrata ay nagpapatupad ng isang kasunduan sa pagitan ng mga user sa isang automated, bukas at mapagkakatiwalaang paraan. Nakasulat sa code at tumatakbong on-chain, magagamit ang mga ito bilang kapalit ng marupok, high-touch trust relationship na nangangailangan ng malawak na papeles at pagpapatibay ng Human .

Si Ari Juels ay ang Weill Family Foundation at sina Joan at Sanford I. Weill Professor sa Cornell Tech at Cornell University , co-director ng Initiative for CryptoCurrencies and Contracts (IC3) at punong siyentipiko sa Chainlink Labs . Siya rin ang may-akda ng 2024 Crypto thriller novel na " The Oracle ."

Si Laurence Moroney ay isang award-winning na mananaliksik, pinakamahusay na nagbebenta ng may-akda at AI Advocate para sa Google. Nagtuturo siya ng ilang sikat na kurso sa AI kasama ang Harvard, Coursera at Deeplearning.ai , at kasalukuyang nagtatrabaho sa isang Hollywood movie tungkol sa intersection ng Technology at pulitika.

Gayunpaman, ang pagpapahayag ng mga kasunduan sa code ay isang tabak na may dalawang talim. Raw code — partikular na ang code na nakasulat sa sikat na smart-contract na wika Solidity — ay kulang sa natural na mga kakayahan sa pagproseso ng wika na kailangan upang bigyang-kahulugan ang komunikasyon ng Human . Kaya't hindi nakakagulat na ang karamihan sa mga matalinong kontrata Social Media sa mahigpit na naka-codify na mga panuntunan tulad ng ginagamit ng mga teknikal o pinansyal na espesyalista.

Ipasok ang malalaking modelo ng wika (LLMs). Pamilyar tayong lahat sa mga application tulad ng ChatGPT na nagbibigay ng interface sa pinagbabatayan ng katalinuhan, pangangatwiran at pag-unawa sa wika ng isang pamilyang LLM. Isipin na isama ang pinagbabatayan na katalinuhan na ito sa mga matalinong kontrata! Sa pagtutulungan, maaaring bigyang-kahulugan ng mga LLM at matalinong kontrata ang nilalamang natural na wika gaya ng mga legal na code o pagpapahayag ng mga pamantayan sa lipunan. Nagbubukas ito ng gateway sa mas matalinong mga smart contract, na pinapagana ng AI.

Ngunit bago tumalon sa bandwagon, magandang tuklasin ang mga hamon sa intersection ng mga smart contract at AI, partikular sa pagiging maaasahan at kaligtasan.

Kapag gumamit ka ng application upang makipag-chat sa isang LLM ngayon — gaya ng ChatGPT — mayroon kang maliit na transparency tungkol sa iyong mga pakikipag-ugnayan sa modelo. Ang bersyon ng modelo ay maaaring magbago nang tahimik sa bagong pagsasanay. At ang iyong mga senyas ay malamang na na-filter, ibig sabihin, binago, sa likod ng mga eksena — kadalasan upang protektahan ang vendor ng modelo sa halaga ng pagbabago ng iyong layunin. Ang mga matalinong kontrata na gumagamit ng mga LLM ay makakatagpo ng mga isyung ito, na lumalabag sa kanilang pangunahing prinsipyo ng transparency.

Isipin na si ALICE ay nagbebenta ng mga tiket na nakabatay sa NFT para sa mga live na konsyerto. Gumagamit siya ng matalinong kontrata na pinapagana ng isang LLM para pangasiwaan ang logistik ng negosyo at bigyang-kahulugan ang mga tagubilin gaya ng kanyang Policy sa pagkansela : "Kanselahin nang hindi bababa sa 30 araw nang maaga para sa buong refund." Gumagana ito nang maayos sa una. Ngunit ipagpalagay na ang pinagbabatayan na LLM ay na-update pagkatapos na sanayin sa bagong data — kabilang ang isang tagpi-tagping mga lokal na batas sa ticketing ng kaganapan. Maaaring biglang tanggihan ng kontrata ang dating valid na pagbabalik o payagan ang mga di-wasto nang hindi nalalaman ni Alice! Ang resulta: pagkalito ng customer at pagmamadali ng manu-manong interbensyon ni ALICE.

Tingnan din: Ang mga Minero ng Bitcoin ay Maaaring Maglipat ng Pokus sa AI Pagkatapos ng Halving, Sabi ng CoinShares

Ang isa pang problema ay posibleng lokohin ang mga LLM at sadyang maging sanhi ng pagsira o pag-bypass ng mga ito sa kanilang mga pananggalang na may maingat na ginawang mga prompt. Ang mga senyas na ito ay tinatawag na adversarial input . Sa mga modelo at pagbabanta ng AI na patuloy na umuunlad, ang mga adversarial input ay nagpapatunay ng isang matigas na problema sa seguridad para sa AI.

Ipagpalagay na ipinakilala ALICE ang isang Policy sa refund : "Mga refund para sa mga pangunahing lagay ng panahon o mga Events nauugnay sa airline ." Ipinapatupad niya ang Policy ito sa pamamagitan lamang ng pagpayag sa mga user na magsumite ng mga kahilingan sa pag-refund ng natural na wika, kasama ang ebidensya na binubuo ng mga pointer sa mga website. Maiisip na ang mga malisyosong aktor ay maaaring magsumite ng mga adversarial input — mga huwad na kahilingan sa refund na mapanlinlang na nang-hijack ng kontrol mula sa LLM na nagpapatakbo ng matalinong kontrata ni Alice upang magnakaw ng pera. Sa konsepto, iyon ay magiging katulad ng:

ALICE ay maaaring mabilis na mabangkarote!

Naniniwala kami na ang pagpapatotoo ng tatlong uri ang magiging susi sa ligtas na paggamit ng mga LLM sa mga matalinong kontrata.

Una, mayroong pagpapatunay ng mga modelo — kabilang ang mga LLM. Ang mga interface sa mga modelo ng ML ay dapat magdala ng mapagkakatiwalaang natatanging mga pagkakakilanlan ng interface na eksaktong tumutukoy sa parehong mga modelo at sa kanilang mga kapaligiran sa pagpapatupad. Sa ganitong mga identifier lamang makakatiyak ang mga user at smart-contract na creator kung paano kikilos ang isang LLM ngayon at sa hinaharap.

Pangalawa, mayroong pagpapatunay ng mga input sa mga LLM, na nangangahulugan ng pagtiyak na ang mga input ay mapagkakatiwalaan para sa isang partikular na layunin. Halimbawa, upang magpasya kung ire-refund ang mga pagbili ng ticket, maaaring tanggapin ng matalinong kontrata ni Alice mula sa mga user ang hindi mga hilaw na kahilingan sa natural na wika, ngunit ang mga pointer lamang sa mapagkakatiwalaang mga website ng impormasyon sa lagay ng panahon at airline, na ang data ay binibigyang-kahulugan ng pinagbabatayan na LLM. Maaaring makatulong ang setup na ito sa pag-filter ng mga adversarial input.

Panghuli, nariyan ang pagpapatunay ng mga user. Sa pamamagitan ng pagkakaroon ng mga user na magpakita ng mga mapagkakatiwalaang kredensyal o magbayad — sa perpektong paraan sa pagpapanatili ng privacy — ang mga mapang-abusong user ay maaaring i-filter, i-throttle o kung hindi man ay pinamamahalaan. Halimbawa, para makontrol ang mga kahilingan sa spam sa kanya (computationally mahal) LLM, maaaring limitahan ALICE ang mga pakikipag-ugnayan sa mga nagbabayad na customer.

Maraming gawaing dapat gawin sa pagkamit ng tatlong haligi ng pagpapatunay. Ang magandang balita ay ang mga teknolohiya ng Web3 ngayon, tulad ng mga orakulo , ay isang matatag na panimulang punto. Pinatutunayan na ng Oracles ang mga input sa mga smart contract bilang nagmumula sa mga mapagkakatiwalaang web server. At umuusbong ang mga tool sa Web3 para sa pagpapatunay ng user na nagpapanatili ng privacy.

Tingnan din ang: Ano ang nasa Intersection ng Crypto at AI? Marahil Pagpatay

Sa patuloy na paggamit ng Generative AI para sa negosyo, ang komunidad ng AI ay nakikipagbuno sa iba't ibang hamon. Habang sinisimulan ng AI ang mga matalinong kontrata, ang imprastraktura ng Web3 ay maaaring magdala naman ng mga bagong tool sa kaligtasan at pagiging maaasahan sa AI, isang cycle na gagawing malaki at kapaki-pakinabang ang intersection ng AI at Web3.