Ar dirbtinis intelektas gali žlugti? Ekspertai įspėja apie jo pavojus ir sprendimus
Kodėl generatyvi dirbtinė intelektas gali autoeksploduoti? Atraskite naujausius tyrimus, kurie įspėja apie jos degradaciją ir ekspertus, analizuojančius galimus sprendimus....Autorius: Patricia Alegsa
14-10-2024 14:21
- Generatyviosios IA degradacijos signalas
- Modelio Kolapsas: Degeneracinis Fenomenas
- Žmogaus Įsikišimo Sudėtingumas
- Nežinomybės Ateitis: Iššūkiai ir Galimos Sprendimai
Stebėkite Patricia Alegsa Pinterest!
Generatyviosios IA degradacijos signalas
Recentiniai tyrimai suaktyvino alarmą dėl neraminančio reiškinio generatyvios dirbtinio intelekto plėtros srityje: atsakymų kokybės degradacijos.
Ekspertai pažymėjo, kad kai šie sistemos yra mokomi su sintetiniais duomenimis, t.y. turiniu, kurį generuoja kitos dirbtinio intelekto sistemos, jie gali patekti į pablogėjimo ciklą, kuris baigiasi absurdiškais ir beprasmiais atsakymais.
Klausimas, kuris kyla, yra: kaip pasiekiama ši riba ir kokių priemonių galima imtis, kad to išvengtume?
"Modelio žlugimas" reiškia procesą, kurio metu dirbtinio intelekto sistemos įstringa prastų duomenų mokymo cikle, dėl ko prarandama įvairovė ir efektyvumas.
Modelio Kolapsas: Degeneracinis Fenomenas
"Modelio žlugimas" reiškia procesą, kurio metu dirbtinio intelekto sistemos įstringa prastų duomenų mokymo cikle, dėl ko prarandama įvairovė ir efektyvumas.
Pagal Ilia Shumailov, vieno tyrimo, paskelbto žurnale Nature, bendraautoris, šis fenomenas atsiranda, kai DI pradeda maitintis savo pačios išvestimis, amžinai palaikydamas šališkumus ir mažindamas savo naudingumą. Ilgainiui tai gali lemti, kad modelis generuoja vis homogeniškesnį ir mažiau tikslų turinį, tarsi būtų savo pačių atsakymų aidas.
Emily Wenger, inžinerijos profesorė Duke universitete, iliustruoja šią problemą paprastu pavyzdžiu: jei DI yra mokomas generuoti šunų vaizdus, jis linkęs atkartoti dažniausiai pasitaikančias veisles, pamiršdamas mažiau žinomas.
Emily Wenger, inžinerijos profesorė Duke universitete, iliustruoja šią problemą paprastu pavyzdžiu: jei DI yra mokomas generuoti šunų vaizdus, jis linkęs atkartoti dažniausiai pasitaikančias veisles, pamiršdamas mažiau žinomas.
Tai ne tik yra prastų duomenų atspindys, bet ir kelia reikšmingus pavojus mažumų atstovavimui mokymo duomenų rinkiniuose.
Taip pat skaitykite: Vis protingesnis dirbtinis intelektas ir vis kvailesni žmonės.
Nepaisant situacijos rimtumo, sprendimas nėra paprastas. Shumailov nurodo, kad neaišku, kaip išvengti modelio žlugimo, nors yra įrodymų, kad realių ir sintetitinių duomenų maišymas gali sumažinti poveikį.
Taip pat skaitykite: Vis protingesnis dirbtinis intelektas ir vis kvailesni žmonės.
Žmogaus Įsikišimo Sudėtingumas
Nepaisant situacijos rimtumo, sprendimas nėra paprastas. Shumailov nurodo, kad neaišku, kaip išvengti modelio žlugimo, nors yra įrodymų, kad realių ir sintetitinių duomenų maišymas gali sumažinti poveikį.
Tačiau tai taip pat reiškia didesnes mokymo išlaidas ir didesnes sunkumus prieiti prie pilnų duomenų rinkinių.
Aiškios žmogaus įsikišimo strategijos trūkumas palieka kūrėjus dilemoje: ar žmonės iš tikrųjų gali kontroliuoti generatyviosios AI ateitį?
Fredi Vivas, RockingData generalinis direktorius, įspėja, kad per didelis mokymas su sintetiniais duomenimis gali sukurti "aido efektą", kai AI mokosi iš savo pačių netikslumų, dar labiau sumažindama savo gebėjimą generuoti tikslią ir įvairią turinį. Taigi klausimas, kaip užtikrinti AI modelių kokybę ir naudingumą, tampa vis skubesnis.
Nežinomybės Ateitis: Iššūkiai ir Galimos Sprendimai
Ekspertai sutinka, kad sintetinių duomenų naudojimas nėra savaime neigiamas, tačiau jų valdymas reikalauja atsakingo požiūrio. Tokie pasiūlymai kaip vandens ženklų įdiegimas generuojamuose duomenyse galėtų padėti identifikuoti ir filtruoti sintetinį turinį, taip užtikrinant kokybę AI modelių mokyme.
Tačiau šių priemonių efektyvumas priklauso nuo bendradarbiavimo tarp didžiųjų technologijų įmonių ir mažesnių modelių kūrėjų.
Generatyvios AI ateitis yra kova, o mokslinė bendruomenė skuba rasti sprendimus prieš sprogstant sintetinės turinio burbului.
Generatyvios AI ateitis yra kova, o mokslinė bendruomenė skuba rasti sprendimus prieš sprogstant sintetinės turinio burbului.
Raktas bus sukurti tvirtus mechanizmus, kurie garantuotų, kad AI modeliai ir toliau liktų naudingi ir tikslūs, taip išvengiant kolapso, kurio bijo daugelis.
Prenumeruokite nemokamą savaitinį horoskopą
Avinas Dvyniai Jautis Liūtas Mergelė Ožiaragis Šaulys Skorpionas Svarstyklės Vandenis Vėžys Žuvys
-
Didelis mokslinis pažanga Alzhaimerio ligos nustatymo technikose
Tikslesni rezultatai nei kognityviniai testai ir kompiuterinė tomografija pirminėje sveikatos priežiūroje. Radiniai, kurie galėtų palengvinti ligos prieinamą nustatymą. -
Pelės ir katės gali būti draugais? Taip, pažiūrėk į šį vaizdo įrašą
Tai yra keista katės ir pelės draugystės istorija. Taip, kaip skaitai, katė ir pelė, kurios yra labai draugai. Atrask šią draugystę šiame mielame vaizdo įraše. -
Vaizdo įrašas: šio automobilio savininkas tikrai turi tikrą problemą su bitėmis
Automobilio savininkas, kurį galime pamatyti šiame vaizdo įraše, susidūrė su tikru problemu: pavojingos bitės ten pastatė savo lizdą. -
Žarnyno mikrobiome atrastos naujos molekulės antibiotikams
Sužinokite, kaip žarnyno mikrobiomas gali būti raktas ieškant naujų antibiotikų. Pensilvanijos universiteto tyrėjai tai atskleidžia žurnale Cell. -
Kruvinas Čingischano laidotuves: išlaisvintas paslaptis ir smurtas
Atskleisk Genghis Khano kraupią laidotuvę: laidojimas, kupinas ekscentriškumų ir šimtų žmogžudysčių, kad būtų išlaikytas jo paslaptis. Baisus ir paslaptingas įvykis!
Prenumeruokite nemokamą savaitinį horoskopą
Savo el. Pašto adresu horoskopu ir naujus straipsnius apie meilę, šeimą, darbą, svajones ir daugiau naujienų. Mes nesiunčiame šlamšto.
Astralinė ir numerologinė analizė
-
Sapnų aiškinimo įrankis internete: su dirbtine intelektika
Norite sužinoti, ką reiškia jūsų sapnas? Atskleiskite sapnų interpretavimo galimybes su mūsų pažangiu sapnų aiškinimo internetiniu įrankiu, naudojančiu dirbtinį intelektą, kuris jums atsako per sekundes.
-
Mokslininkai atgaivina kiaulės smegenis po mirties
Mokslininkai Kinijoje atgaivina kiaulės smegenis po valandos nuo jos mirties, žadanti pažanga atkuriant gyvybines funkcijas po širdies sustojimo. -
Nepaprasti šios egiptiečių mumijos atskleidimai
Nauji tyrimai atskleidžia paslaptis apie garsiuosius Egipto palaikus. Ekspertai siūlo, kad jos tragiška mirtis galėtų atskleisti seną mįslę. -
Neįtikėtina! Egipte rasta Ramseso II kardas, kuris šviečia po 3,000 metų
Egipte atrasta Ramseso II kardas, kuris šviečia po 3.000 metų. Įspūdingas atradimas senoviniame Nilo deltos forte! -
COVID-19: Atvejų padidėjimas ir nuolatiniai simptomai, kurie kelia nerimą Pasaulinei sveikatos organizacijai
„COVID-19 vis dar yra grėsmė: Pasaulio sveikatos organizacija įspėja apie atvejų skaičiaus didėjimą ir nuolatinius simptomus, kurie paveikė milijonus. Sužinokite čia!“ -
Kodėl lėktuvai vengia skristi virš Tibeto?
Atraskite, kodėl lėktuvai vengia skristi virš Tibeto, regiono, kuris siekia daugiau nei 4 500 metrų aukščio, komplikuodamas komercinius skrydžius. -
Ideali fizinės veiklos trukmė vaikams: kiek yra daug?
Sužinokite fizinio aktyvumo svarbą vaikams ir kiek laiko jie turėtų sportuoti pagal savo amžių, kad užtikrintų sveiką vystymąsi. -
Keistas atradimas Marse, uola, kuri nustebino NASA
Keistas atradimas Marse: Perseverance atrado uolieną su zebrų žymėmis, sukeldamas mokslininkų susidomėjimą ir naujas teorijas Jezero krateryje. -
Ką reiškia svajoti apie kūdikių gimimą?
Sužinokite, ką reiškia sapnai apie gimstančius kūdikius - ar tai pokyčių ženklas, ar naujo gyvenimo etapo pradžia? Skaitykite mūsų straipsnį dabar! -
Sužinokite, kodėl jūsų Zodiako ženklas ieško tik sekso, o ne santykių
Atraskite Zodiako paslaptis ir sužinokite, kuris ženklas yra aistringiausias meilės ir intymumo srityje. -
Ką reiškia sapnuoti burnas?
Šiame įdomiame straipsnyje sužinosite, kokią paslaptingą reikšmę turi sapnai apie burnas. Ar tai reiškia bendravimą, troškimą ar baimę? Sužinokite tai čia! -
Ką reiškia svajoti apie ryžius?
Atraskite sapnų su ryžiais prasmę. Ar jie reiškia gausą, ar stoką? Kokias žinutes jums siunčia jūsų pasąmonė? Atsakymus rasite šiame straipsnyje. -
Ką reiškia svajoti apie sandalus?
Ar kada nors susimąstėte, ką reiškia svajoti apie sandalus? Sužinokite, ką reiškia šis sapnas ir kaip jis gali padėti jums kasdieniame gyvenime. -
Ką reiškia svajoti apie banką?
Ar norite sužinoti, ką reiškia svajoti apie banką? Sužinokite, kokia simbolika slypi už šio sapno ir kaip jis gali paveikti jūsų finansinį ir emocinį gyvenimą.