„Microsoft“ vadovas portalas teigia, kad technologijų kūrėjų požiūris į AI kaip į žmones yra klaidingas ir neteisingas

„Microsoft“ dirbtinio intelekto padalinio vadovas pareiškė, kad, jei dirbtinio intelekto kūrimo srityje nebus įdiegtos tinkamos ribos, tai gali lemti naujos „silicio rūšies“ atsiradimą, kuri konkuruotų su žmonėmis

Jis apibūdino konkurentės įmonės „Anthropic“ požiūrį, kai dirbtinis intelektas traktuojamas kaip žmogus, kaip „klaidingą“ ir įspėjo, kad nereikėtų kurti technologijos, kurios žmonija negalės kontroliuoti.

Kalbėdamas portalas laidoje „Today“, Mustafa Suleymanas sakė, kad žmonių susirūpinimas ar nerimas yra „teisėtas“, tačiau yra „labai praktiškų dalykų, kuriuos galime padaryti, kad įdiegtume papildomas apsaugos priemones ir kontrolę, kaip šie modeliai yra kuriami“.

Šie komentarai yra naujausi iš serijos griežtų įspėjimų iš dirbtinio intelekto pramonės apie galimus šios technologijos pavojus.

Ketvirtadienį kalbėdamas laidoje „Today“ jis teigė, kad jei įmonės ir toliau kurs dirbtinį intelektą, kuris nustato savo tikslus, uždirba pinigus ir valdo turtą, jos „iš esmės kuria naują silicio rūšį, kuri, be abejonės, konkuruos su mumis dėl išteklių, nesvarbu, kiek ji rūpinasi žmonija ir mus myli“.

Šie dirbtinio intelekto lyderio komentarai portalas pasirodė po to, kai jis šią savaitę paskelbė esė, kuriame įspėjo apie „Anthropic“ požiūrį į savo dirbtinio intelekto modelio „Claude“ mokymą.

Jis smarkiai kritikavo „Anthropic“ už tai, kad ji moko savo AI turėti žmogiškąsias savybes – praktiką, žinomą kaip antropomorfizavimas, kuri, jo teigimu, sudaro įspūdį, tarsi „Claude“ turėtų savo norus, vertybes ir savimonę. portalas kreipėsi į „Anthropic“ dėl komentarų.

Straipsnyje jis įspėjo, kad technologijų įmonės, traktuodamos technologiją kaip žmogų, rizikuoja sukurti kažką, ko „neįmanoma“ kontroliuoti.

„Dirbtinis intelektas neturi sąmonės“, – rašė jis. „Jis nejaučia, nepatiria ir nekenčia. Jis neturi įgimtų polinkių ar paslėptų motyvacijų.

„Tai yra sekų užbaigimo varikliai, viduje tušti, sukurti vykdyti nurodymus ir pasiekti žmonių nustatytus tikslus.“

Kalbėdamas su portalas apie artėjantį AI viršūnių susitikimą, jis paragino siekti „suderinimo“, kad būtų sukurta technologija, kuri turi būti „pavaldžią“ žmonijai.

„Manau, kad gera žinia čia yra ta, jog kiekvienas žmogus turės labai didelį interesą užtikrinti, kad sistemos, kurias mes visi kuriame ir… kurios naudojamos visame pasaulyje, kiekvienoje šalyje, būtų saugios, kontroliuojamos ir pavaldžios žmonijai.

„Visi turi būti suderinti“, – sakė jis.

Savo išsamiame eseėje Suleyman taip pat gyrė „Anthropic“ vadovą Dario Amodei ir jo komandą už tai, kad jie yra „apgalvoti, principingi ir intelektualiai sąžiningi žmonės“ – tačiau vis dėlto iškėlė abejonių dėl pačios įmonės.

Suleymanas teigė, kad „sąmonė yra biologinis reiškinys“, sakydamas, jog „nėra jokių įrodymų, leidžiančių manyti, kad AI turi sąmonę“.

Be to, kad paragino surengti diskusiją šiuo klausimu, Suleymanas sakė, jog reikalingas didesnis skaidrumas dėl to, kaip mokomos ir vertinamos AI sistemos.

Pasak jo, tai apima nepriklausomą AI elgesio tikrinimą ir veiksmingesnes priemones šiai technologijai stebėti bei kontroliuoti.

„Negalime tarsi lunatikai priimti sprendimo, dėl kurio vėliau gailėsimės“, – rašė jis.

Sautamptono universiteto kompiuterių mokslų profesorė Dame Wendy Hall šiuos komentarus apibūdino kaip „tokį pokalbį, kurį turime vesti tarptautiniu mastu“, priešpastatydama juos kai kurių dirbtinio intelekto įmonių „teatraliniams pasirodymams“, kurie, jos teigimu, tik „gąsdina visus“.

„Microsoft“ dirbtinio intelekto padalinio vadovas teigė, kad, jei dirbtinio intelekto kūrime nebus įvesti tinkami apribojimai, tai gali lemti naujos „silicio rūšies“ atsiradimą, kuri konkuruotų su žmonėmis

Jis apibūdino konkurentės įmonės „Anthropic“ požiūrį, pagal kurį AI traktuojama kaip žmogus, kaip „klaidingą“ ir įspėjo, kad negalima kurti technologijos, kurios žmonija negalės kontroliuoti.

Kalbėdamas portalas laidoje „Today“, Mustafa Suleymanas teigė, kad žmonių susirūpinimas ar nerimas yra „teisėtas“, tačiau yra „labai praktiškų dalykų, kuriuos galime padaryti, kad įdiegtume papildomas apsaugos priemones ir kontrolę, kaip šie modeliai yra kuriami“.

Šie komentarai yra naujausi iš serijos griežtų įspėjimų iš dirbtinio intelekto pramonės apie galimus šios technologijos pavojus.

Ketvirtadienį kalbėdamas laidoje „Today“ jis teigė, kad jei įmonės toliau kurs dirbtinį intelektą, kuris pats nustato savo tikslus, uždirba pinigus ir valdo turtą, jos „iš esmės kuria naują silicio rūšį, kuri, be abejonės, konkuruos su mumis dėl išteklių, nesvarbu, kiek ji rūpintųsi žmonija ir mus mylėtų“.

Šie dirbtinio intelekto lyderio komentarai portalas buvo pateikti po to, kai jis šią savaitę paskelbė esė, kuriame įspėjo apie „Anthropic“ požiūrį į savo dirbtinio intelekto modelio „Claude“ mokymą.

Jis smarkiai kritikavo „Anthropic“ už tai, kad ji moko savo AI turėti žmogiškas savybes – praktiką, žinomą kaip antropomorfizavimą, – kuri, jo teigimu, sudaro įspūdį, tarsi „Claude“ turėtų savus troškimus, vertybes ir savimonę. portalas kreipėsi į „Anthropic“ dėl komentarų.

Straipsnyje jis įspėjo, kad technologijų įmonės, traktuodamos technologiją kaip žmogų, rizikuoja sukurti kažką, ko „neįmanoma“ kontroliuoti.

„Dirbtinis intelektas neturi sąmonės“, – rašė jis. „Jis nejaučia, nepatiria ir nekentėja. Jis neturi įgimtų polinkių ar paslėptų motyvacijų.

„Tai yra sekų užbaigimo varikliai, viduje tušti, sukurti vykdyti nurodymus ir pasiekti žmonių nustatytus tikslus.“

Kalbėdamas su portalas apie artėjantį AI viršūnių susitikimą, jis paragino siekti „suderinimo“, kad būtų sukurta technologija, kuri turi būti „pavaldžią“ žmonijai.

„Manau, kad gera žinia čia yra ta, jog kiekvienas žmogus bus labai suinteresuotas užtikrinti, kad sistemos, kurias mes visi kuriame ir… kurios naudojamos visame pasaulyje, kiekvienoje šalyje, būtų saugios, valdomos ir pavaldžios žmonijai.

„Visi turi būti suderinti“, – sakė jis.

Savo išsamiame eseje Suleyman taip pat pagyrė „Anthropic“ vadovą Dario Amodei ir jo komandą už tai, kad jie yra „apgalvoti, principingi ir intelektualiai sąžiningi žmonės“, tačiau vis dėlto iškėlė abejonių dėl pačios įmonės.

Suleymanas teigė, kad „sąmonė yra biologinis reiškinys“, sakydamas, jog „nėra įrodymų, leidžiančių manyti, kad AI turi sąmonę“.

Be to, kad paragino surengti diskusiją šiuo klausimu, Suleymanas sakė, jog reikalingas didesnis skaidrumas dėl to, kaip AI sistemos yra mokomos ir vertinamos.

Pasak jo, tai apima nepriklausomą AI elgesio tikrinimą ir galingesnes priemones šiai technologijai stebėti bei kontroliuoti.

„Negalime tarsi miegodami priimti sprendimo, kurio vėliau gailėsimės“, – rašė jis.

Sautamptono universiteto kompiuterių mokslų profesorė Dame Wendy Hall šiuos komentarus apibūdino kaip „tokį pokalbį, kurį turime vesti tarptautiniu mastu“, priešpastatydama jį kai kurių AI įmonių „teatrališkumui“, kuris, jos teigimu, tik „gąsdina visus“.

Užsiprenumeruokite mūsų naujienlaiškį „Tech Decoded“, kad galėtumėte sekti svarbiausias pasaulio technologijų naujienas ir tendencijas. Esate už Jungtinės Karalystės ribų? Užsiprenumeruokite čia.