Այս շաբաթ տեխնոլոգիաների երկու ամենաազդեցիկ ձայները առաջարկեցին արհեստական ինտելեկտի զարգացման հակասական տեսլականներ՝ ընդգծելով նորարարության և անվտանգության միջև աճող լարվածությունը:
Սեմ Ալթմանի գործադիր տնօրենը կիրակի երեկոյան բացահայտեց ա օրագրում Հաղորդագրություն իր ընկերության հետագծի մասին, որ OpenAI-ը եռապատկել է իր օգտատերերի բազան՝ հասնելով շաբաթական ավելի քան 300 միլիոն ակտիվ օգտագործողների, քանի որ այն վազում է դեպի արհեստական ընդհանուր ինտելեկտ (AGI):
«Մենք այժմ վստահ ենք, որ գիտենք, թե ինչպես կառուցել AGI, ինչպես դա ավանդաբար հասկացել ենք», - ասաց Ալթմանը, որ AI գործակալները հասանելի կլինեն 2025 թվականին: «Միացեք աշխատուժին»: Կարող եք նաև ավելին իմանալ հետևյալի մասին. ընկերությունների»։
Ալթմանը պնդում է, որ OpenAI-ը կաշխատի շատ ավելին, քան AI գործակալների և AGI-ի վրա: «գերհետախուզություն բառի բուն իմաստով».
Անորոշությունը շրջապատում է AGI-ի և գերհետախուզության առաքման ժամկետը: OpenAI-ն անմիջապես չպատասխանեց մեկնաբանության մեր խնդրանքին:
Բայց Վիտալիկ Բուտերինն արդեն արձագանքել էր կիրակի օրը։ Ստորև ներկայացված է «Ես» բառի առաջարկվող այլընտրանքների ցանկը. Բլոկչեյն տեխնոլոգիան կարող է օգտագործվել արհեստական ինտելեկտի վրա հիմնված առաջադեմ համակարգերի համար գլոբալ ձախողման անվտանգ համակարգեր մշակելու համար: «Փափուկ դադար» Եթե նախազգուշական ազդանշաններ հայտնաբերվեն, AI-ն կարող է ժամանակավորապես սահմանափակվել:
AI անվտանգություն՝ օգտագործելով ծածկագրությունը
Բուտերինն այստեղ խոսում է «d/acc» կամ ապակենտրոնացված/պաշտպանական արագացման մասին։ Ամենապարզ իմաստով, d/acc-ը e/acc-ի կամ արդյունավետ արագացման տարբերակ է, փիլիսոփայական շարժում, որը պաշտպանում են Սիլիկոնյան հովտի բարձրաշխարհիկ գործիչներ, ինչպիսիք են a16z-ի Մարկ Անդրեսսենը:
Buterin's d/acc-ը նաև տեխնոլոգիական առաջընթացի կողմնակից է, սակայն այն առաջնահերթություն է տալիս այն բարելավումներին, որոնք մեծացնում են անվտանգությունը և բարձրացնում մարդկային գործունեությունը: Մինչ արդյունավետ աքսելերացիոնիզմը հաշվի է առնում մարդկային գործակալությունը, d/acc-ն ավելի շատ կենտրոնացած է տեխնոլոգիական առաջընթացի վրա: «աճ ցանկացած գնով» D/acc մոտեցումը կենտրոնանում է պաշտպանական կարողությունների ձևավորման վրա:
«D/acc-ը կրիպտոյի հիմքում ընկած արժեքների ընդլայնումն է (ապակենտրոնացում, գրաքննության դիմադրություն, բաց գլոբալ տնտեսություն և հասարակություն) դեպի տեխնոլոգիայի այլ ոլորտներ», - գրել է Բուտերինը:
Բուտերինը, հետ նայելով d/acc-ի առաջընթացին վերջին տարվա ընթացքում, գրել է այն մասին, թե ինչպես կարող են օգտագործվել գոյություն ունեցող կրիպտո մեխանիզմները, ինչպիսիք են զրոյական գիտելիքի ապացույցները, AGI-ի և գերխելացի համակարգի նկատմամբ ավելի պահպանողական մոտեցում իրականացնելու համար:
Բուտերինի առաջարկի համաձայն՝ արհեստական ինտելեկտի հիմնական համակարգիչները երեք միջազգային խմբերի շաբաթական հաստատման կարիք կունենան՝ աշխատելու համար:
«Ստորագրությունները անկախ կլինեն սարքից (ցանկության դեպքում մենք կարող ենք նույնիսկ պահանջել զրոյական գիտելիքների ապացույց, որ դրանք հրապարակվել են բլոկչեյնում), այնպես որ դա կլինի ամեն ինչ կամ ոչինչ. չի լինի մեկ սարքը լիազորելու գործնական միջոց։ շարունակել աշխատել՝ առանց թույլատրելու բոլոր մյուս սարքերը»,- բացատրել է Բուտերինը։
Համակարգը կաշխատի հիմնական անջատիչի նման, որտեղ կա՛մ բոլոր հաստատված համակարգիչները աշխատում են, կա՛մ ոչ մեկը՝ թույլ չտալով որևէ մեկին կատարել ընտրովի կիրառում:
«Քանի դեռ նման կրիտիկական պահը տեղի չի ունեցել, պարզապես մեղմ դադարի հնարավորություն ունենալը քիչ վնաս կպատճառի ծրագրավորողներին», - նկատեց Բուտերինը ՝ նկարագրելով այս համակարգը որպես աղետների դեմ ապահովագրական քաղաքականություն:
Ամեն դեպքում, OpenAI-ի պայթյունավտանգ աճը 2023 թվականից՝ 100 միլիոնից մինչև 300 միլիոն շաբաթական օգտատեր ընդամենը երկու տարվա ընթացքում, ցույց է տալիս, թե ինչպես է AI-ի ընդունումը արագորեն զարգանում:
Ալթմանը գիտակցեց անկախ տեխնոլոգիական լաբորատորիայից ընկերություն զարգացնելու դժվարությունները: «Մի ամբողջ ընկերություն, գրեթե զրոյից, այս նոր տեխնոլոգիայի շուրջ»:
Առաջարկները ներկայացնում են ավելի լայն քննարկում արդյունաբերության ներսում, թե ինչպես կառավարել AI զարգացումը: Առաջարկություններն արտացոլում են ավելի լայն արդյունաբերական բանավեճեր AI-ի զարգացման կառավարման շուրջ:
«Պատերազմական ռեժիմի» մեկ տարին հեշտությամբ կարող է արժենալ հարյուր տարվա աշխատանք՝ ինքնագոհության պայմաններում»,- գրել է Բուտերինը։ «Եթե մենք պետք է սահմանափակենք մարդկանց, ավելի լավ է թվում, որ բոլորին հավասար հիմունքներով սահմանափակենք և իրականում փորձենք համագործակցել՝ դա կազմակերպելու համար, այլ ոչ թե մեկ կուսակցություն ձգտի տիրել բոլորին»:
Սեբաստիան Սինքլերը խմբագիր է