Artie Beaty/ZDNETHvis du har vært på sosiale medier den siste uken, har du sannsynligvis sett dem. Skjermbilder av Googles nye AI-drevne søkesammendrag gikk viralt, hovedsakelig fordi Google angivelig kom med ville anbefalinger som å tilsette lim til pizzaen din, lage spaghetti med bensin eller foreslå at du burde spise steiner for optimal helse. < /p>
Det var bare begynnelsen.
Også: Slik unngår du AI-oversikter i Google Søk: Tre enkle måter
Andre spesielt alvorlige eksempler ble også virale, tilsynelatende av den useriøse AI-funksjonen som antydet å blande blekemiddel og eddik for å rengjøre en vaskemaskin, som ville produsere potensielt dødelig klorgass, eller hoppe av Golden Gate Bridge som svar på en forespørsel fra ” ;Jeg føler meg deprimert."
Så hva skjedde, og hvorfor anbefalte Googles AI-oversikt disse tingene?
For det første, sier Google, mesteparten av det som gikk viralt var ikke ekte.
Mange skjermbilder var rett og slett falske: "Noen av disse falske resultatene har vært åpenbare og dumme. Andre har antydet at vi returnerte farlige resultater for emner som å forlate hunder i biler, røyking mens de er gravide og depresjon." Disse AI-oversiktene dukket aldri opp, sier Google.
For det andre var mange skjermbilder fra folk som hadde til hensikt å få dumme søkeresultater – som de om å spise steiner. "Før disse skjermbildene ble virale," Google sa, “praktisk talt ingen spurte Google det spørsmålet.” Hvis ingen googler et gitt emne, betyr det sannsynligvis at det ikke er mye informasjon tilgjengelig om det, eller at det er tomt for data. I slike tilfeller var det kun satirisk innhold AI tolket som nøyaktig.
Dessuten: 7 måter å forsterke Google-søkene dine med AI
Google innrømmer at noen få merkelige eller unøyaktige resultater dukket opp. Selv de var for uvanlige spørsmål, men de avslørte noen områder som trenger forbedring. Selskapet var i stand til å bestemme et mønster av ting som ikke gikk riktig og gjorde mer enn et dusin tekniske forbedringer, inkludert:
Bedre deteksjon for useriøse søk som ikke skulle vise en AI-oversikt og begrenset inkludering av satire- og humorinnhold
Begrenset bruk av brukergenerert innhold i svar som kan gi villedende råd
Utløser begrensninger for søk der AI-oversikter ikke viste seg å være nyttige
Viser ikke AI-oversikter for vanskelige nyhetsemner der ferskhet og fakta er viktig og for de fleste helseemner
Med milliarder av søk som kommer inn hver dag, sier Google, vil ting bli rart noen ganger. Selskapet sier at det lærer av feilene, og lover å fortsette å jobbe for å styrke AI-oversiktene.