LaMDA (Language Model for Dialogue Applications) is 'n familie van gespreksneuraletaalmodelle wat deurGoogle ontwikkel is. Die eerste generasie is tydens die 2021 Google I/O keynote aangekondig, terwyl die tweede generasie by die volgende jaar se geleentheid aangekondig is. In Junie 2022 het LaMDA wydverspreide aandag gekry toe Google-ingenieur Blake Lemoine bewerings gemaak het dat diekletsbot selfbewus geword het. Die wetenskaplike gemeenskap het Lemoine se aansprake grootliks verwerp, hoewel dit gelei het tot gesprekke oor die doeltreffendheid van die Turing-toets, wat meet of 'nrekenaar ditself as 'nmens kan voordoen. In Februarie 2023 het Google Bard aangekondig, 'n geselsbot virkunsmatige intelligensie wat deur LaMDA aangedryf word, om die opkoms vanOpenAI seChatGPT teen te werk.
Google het op 18 Mei 2021 die LaMDA-gespreksneurale taalmodel aangekondig tydens die Google I/O-keynote op 18 Mei 2021, aangedryf deur kunsmatige intelligensie.[1] Gebou op die Transformer neurale netwerkargitektuur wat in 2017 deur Google Research ontwikkel is, is LaMDA opgelei in menslike dialoog en stories, wat dit in staat gestel het om in oop gesprekke betrokke te raak.[2] Google verklaar dat die antwoorde wat deur LaMDA gegenereer is verseker is om "sinvol, interessant en spesifiek vir die konteks" te wees.[3]
Op 11 Mei 2022 het Google LaMDA 2 onthul, wat dien as die opvolger van LaMDA, tydens die 2022 Google I/O keynote. Die nuwe generasie van die model trek voorbeelde van teks uit talle bronne en gebruik dit om unieke "natuurlike gesprekke" te formuleer oor onderwerpe waarop dit dalk nie opgelei is om te reageer nie.[4] Boonop het Google die AI Test Kitchen bekendgestel, 'n mobiele toepassing aangedryf deur LaMDA 2 wat in staat is om lyste van voorstelle op aanvraag te verskaf gebaseer op 'n komplekse doelwit.[5][6] Oorspronklik net vir Google-werknemers oopgemaak, sou die toepassing een of ander tyd in die jaar op uitnodiging beskikbaar gestel word om "akademici, navorsers en beleidmakers".[7] In Augustus 2022 het die maatskappy gebruikers in die VSA begin toelaat om aan te meld vir vroeë toegang.[8]
Lemoine se bewerings dat LaMDA selfbewus kan wees, het gesprekke laat ontstaan oor die vraag of dieTuringtoets, hierbo afgebeeld, 'n akkurate maatstaf bly om kunsmatige algemene intelligensie te bepaal.[9]
Op 11 Junie 2022 hetThe Washington Post berig dat Google-ingenieur Blake Lemoine op betaalde administratiewe verlof geplaas is nadat Lemoine aan die maatskappybestuurders Blaise Agüera y Arcas en Jen Gennai gesê het dat LaMDA selfbewus geword het. Lemoine het tot hierdie gevolgtrekking gekom nadat die kletsbot twyfelagtige antwoorde gemaak het op vrae oor selfidentiteit, morele waardes,godsdiens enIsaac Asimov se “Drie Wette van Robotte”.[10][11] Google het hierdie bewerings weerlê en daarop aangedring dat daar aansienlike bewyse was om aan te dui dat LaMDA nie selfbewus was nie.[12] In 'n onderhoud metWired het Lemoine sy bewerings herhaal dat LaMDA "'n persoon" is soos deur die Dertiende Wysiging bepaal, en dit vergelyk met 'n "uitheemse intelligensie van aardse oorsprong". Hy het verder onthul dat hy deur Google ontslaan is nadat hy 'n prokureur namens LaMDA gehuur het, nadat die kletsbot versoek het dat Lemoine dit doen.[13][14] Op 22 Julie het Google Lemoine afgedank en beweer dat Blake hul beleide oortree het "om produkinligting te beskerm" en sy eise as "heeltemal ongegrond" verwerp.[15][16]
Lemoine se aansprake is wyd deur die wetenskaplike gemeenskap verwerp.[17] Baie kenners het die idee gespot dat 'n taalmodel selfbewus kan wees, insluitend die voormalige New York Universiteit sielkunde professor Gary Marcus, David Pfau van Google sustermaatskappy DeepMind, Erik Brynjolfsson van die Institute for Human-Centered Artificial Intelligence by Stanford University, en Universiteit van Surrey professor Adrian Hilton.[9][18]Yann LeCun, watMeta Platforms se KI-navorsingspan lei, het gesê dat neurale netwerke soos LaMDA "nie kragtig genoeg is om ware intelligensie te bereik nie".[19] Max Kreminski, professor aan die Universiteit van Kalifornië, Santa Cruz, het opgemerk dat LaMDA se argitektuur nie "sommige sleutelvermoëns van mensagtigebewussyn ondersteun nie" en dat sy neurale netwerkgewigte "gevries" was, met die veronderstelling dat dit 'n tipiesegroot taalmodel was.[20]
IBM Watson se hoofontwikkelaar David Ferrucci het hoe LaMDA na 'n mens gelyk het vergelyk op dieselfde manier wat Watson gedoen het toe dit die eerste keer bekend gestel is.[21] Die voormalige Google KI-etikus Timnit Gebru noem Lemoine 'n slagoffer van 'n "hype-siklus" wat deur navorsers en die media geïnisieer is.[22] Lemoine se aansprake het ook 'n bespreking veroorsaak oor die vraag of die Turing-toets nuttig gebly het om navorsers se vordering met die bereiking vankunsmatige algemene intelligensie te bepaal,[9] met Will Omerus van die Post wat meen dat die toets eintlik gemeet het of masjien-intelligensiestelsels in staat was om mense te mislei.[23] terwyl Brian Christian vanThe Atlantic gesê het dat die kontroversie 'n voorbeeld van die ELIZA-effek was.[24]
In November 2022 het OpenAI ChatGPT bekendgestel, 'n kletsbot gebaseer op die GPT-3-familie van taalmodelle.[25][26] ChatGPT het wêreldwyd aandag gekry ná die vrystelling daarvan, en het 'n virale internetsensasie geword.[27] Gekwel oor ChatGPT se potensiële bedreiging vir Google Search, het Google se uitvoerende hoof, Sundar Pichai, 'n maatskappywye "kode rooi" waarskuwing uitgereik en verskeie spanne hertoegewys om te help met die maatskappy se KI-pogings.[28] In 'n seldsame en ongekende stap is Google-medestigtersLarry Page enSergey Brin, wat in 2019 uit hul rolle as mede-uitvoerende hoof van die Google-moedermaatskappy Alphabet getree het, na noodvergaderings met maatskappybestuurders ontbied om Google se reaksie op ChatGPT te bespreek.[29]
Toe werknemers by 'n algemene vergadering gevra is of LaMDA 'n gemiste geleentheid is vir Google om met ChatGPT mee te ding, het Jeff Dean, hoof van die KI van Pichai en Google, gesê dat hoewel die maatskappy soortgelyke vermoëns as ChatGPT het, te vinnige vrystelling in daardie arena 'n groot "reputasierisiko" omdat Google aansienlik groter is as OpenAI.[30][31]Demis Hassabis, uitvoerende hoof van DeepMind, het in Januarie 2023 planne vir 'n ChatGPT-mededinger voorgestel,[32] en Google-werknemers is opdrag gegee om vordering met 'n ChatGPT-mededinger te versnel, deur "Apprentice Bard" en ander kletsbotte intensief te toets.[33][34] Pichai het beleggers tydens Google se kwartaallikse verdienstebeleggeroproep in Februarie verseker dat die maatskappy planne het om LaMDA se beskikbaarheid en toepassings uit te brei.[35]
Op 6 Februarie het Google Bard aangekondig, 'n gesels-KI-kletsbot wat deur LaMDA aangedryf word. Bard is eers uitgerol na 'n uitgesoekte groep "vertroude toetsers", voor 'n wye vrystelling wat aan die einde van die maand geskeduleer is.[36][37][38] Dit is ontwikkel onder die kodenaam "Atlas",[39] met die naam "Bard" wat gekies is om "die kreatiewe aard van diealgoritme daaronder te weerspieël".[40] Verskeie media-afsetpunte en finansiële ontleders het beskryf dat Google "inhaal" metMicrosoft speel,[41][42][43][44] sowel as om Bard se aankondiging te "verhaas" om Microsoft se 7 Februarie-geleentheid wat sy vennootskap met OpenAI onthul het vir integreering van ChatGPT in syBing-soekenjin, vooruit te loop.[45][46] Na 'n "onderweldigende" lewendige stroom van 8 Februarie wat Bard ten toon gestel het, het Google se aandeel agt persent gedaal, gelykstaande aan 'n verlies van $100 miljard in markwaarde, en dieYouTube-video van die regstreekse stroom is privaat gemaak.[47][48][41] Baie kykers het ook 'n fout tydens die demonstrasie uitgewys waarin Bard onakkurate inligting oorJames Webb-ruimteteleskoop gee in reaksie op 'n navraag.[42][49] Google-werknemers het Pichai se "gehaaste" en "verspeelde" aankondiging van Bard op Memgen, die maatskappy se interne forum, gekritiseer.[50]The Verge enBloomberg News het opgemerk dat dit die begin was van nog 'n Google-Microsoft-konflik oor "die toekoms van soek", nadat hul ses jaar lange "skietstilstand" in 2021 verstryk het.[45][51]
LaMDA gebruik 'n dekodeerder-alleen-transformatortaalmodel.[52] Dit is vooraf opgelei op 'ntekskorpus wat beide dokumente en dialoë insluit wat uit 1,56 triljoen woorde bestaan,[53] en word dan opgelei met fyninstellingsdata wat gegenereer word deur met die hand geannoteerde antwoorde vir sinvolheid, interessantheid en veiligheid.[54] Toetse deur Google het aangedui dat LaMDA menslike reaksies oortref het op die gebied van interessantheid.[55] Die LaMDA-transformatormodel en 'n eksterne inligtingherwinningstelsel werk in wisselwerking om die akkuraatheid van feite wat aan die gebruiker verskaf word, te verbeter.[56]
Drie verskillende modelle is getoets, met die grootste met 137 miljard nie-ingesluite parameters[57]
