Tesla Motoreienaar Mike Nelson gebruik Grok, ‘n kunsmatige intelligensie-kletsbot, al ‘n paar maande in sy motor. Hy het dit nuttig gevind, amper onweerstaanbaar, maar ook gevaarlik.
Nelson, ‘n prokureur met ‘n agtergrond in motorversekering, het aan CNBC gewys hoe hy Grok gebruik terwyl hy in die New York-metrogebied bestuur. Nielsen het gesê hoewel hy baie tevrede is met sy Model Y-sportnutsvoertuig, het hy Tesla in meer as 10 sake namens voertuigeienaars gedagvaar of dagvaar.
Die in-voertuig weergawe van Grok, steeds in beta, word ontwikkel deur xAI en stel bestuurders in staat om stemopdragte aan die motor se navigasiestelsel uit te reik. Grok sal ook ‘n verskeidenheid vrae oor enige onderwerp beantwoord. Vir Nelson is gesprekke met chatbots nou sy hoofbron van vermaak op die pad.
Tesla is nie die enigste motorvervaardiger wat kunsmatige intelligensie-assistente by sy voertuie voeg nie. Volvo, Rivian, Mercedes, BMW en ander maatskappye integreer kunsmatige intelligensie in hul motors, hoewel die tegnologie nog in sy kinderskoene is.
Motorvervaardigers wil bestuurders ‘n handvrye manier gee om nuttige inligting te kry, soos waar om hul elektriese voertuie naby te laai, hoe om daar te kom, en of daar ‘n goeie eetplek op pad is. Dit verminder die versoeking vir bestuurders om rigtingaanwysings op hul fone, kaarte of skerms te soek.
Maar Philip Koopman, ‘n emeritusprofessor aan die Carnegie Mellon Universiteit en ‘n kenner van selfbesturende motors, het gesê KI-kletsbotte verteenwoordig ook ‘n nuwe bron van afleiding op die pad wat nog nie goed verstaan word nie.
Tesla sal in Julie 2025 begin om xAI se kletsbot na kliënte se motors uit te rol. (Die motorvervaardiger het ook $2 miljard in xAI belê, nou deel van SpaceX en ook deur Musk bestuur.)
Nelson het in November sy Tesla Model Y gekoop, sy vierde elektriese voertuig van die maatskappy. Hy het gesê Grok was nie vir hom ’n “kooppunt” nie. “Ek verstaan ook nie hoe lekker dit sal wees om ‘n chatbot saam met jou in die kar te hê nie.” Maar hy het dit op sy eerste rit gebruik, en sedertdien is hy vas aan Grok.
“Dit het regtig my bestuurservaring verander,” het hy gesê. “In die 80’s en 90’s het ek na musiek of radiogeselsprogramme geluister terwyl ek bestuur het, toe boeke op band, toe podcasts. Nou doen ek niks. Ek gebruik dit net om vrae te vra.”
Hy gebruik Grok vir alles van tuinmaakadvies tot die maak van sakeprojekplanne, of om ewekansige historiese onbenullighede te kry.
Mike Nelson en CNBC se Rob Ferris was in New York Stad om Grok, die xAI chatbot, in sy Tesla te toetsbestuur.
Wanneer Nelson Tesla se ten volle selfbestuurstelsel (onder toesig) gebruik, gebruik hy gewoonlik Grok.
Hierdie semi-outonome bestuurstelsel, wat soms FSD genoem word, verkoop tans vir $99 per maand in die Verenigde State. Die Tesla-eienaarshandleiding sê dat wanneer hulle FSD gebruik, bestuurders “aktiewe toesig” oor die voertuig moet gee, wat beteken dat hulle goed op die pad moet let, op bestuur moet konsentreer en enige tyd gereed moet wees om te stuur of te rem.
Nelson het aan CNBC gesê dat die gebruik van FSD risiko’s meebring, veral in ‘n chaotiese groot stad soos New York, en hy glo dat Grok daardie risiko’s vererger.
Die Amerikaanse nasionale hoofwegverkeersveiligheidsadministrasie het verskeie ondersoeke van stapel gestuur na moontlike veiligheidsfoute in Tesla FSD na verskeie ongelukke, insluitend ‘n noodlottige ongeluk in 2023. Wanneer FSD gebruik word, kan bestuurders selfvoldaan raak en oorskat hoeveel hulle aandag aan die pad gee.
Tydens ‘n CNBC-rit saam met Nelson in New York Stad, het hy opgemerk: “Ons het een van die besigste brûe in die wêreld oorgesteek,” met verwysing na die George Washington-brug, “verreweg die besigste brug in die Verenigde State, en ek het geen aspek van daardie rit opgemerk nie.” In plaas daarvan was Nelson in interaksie met Grok.
Bestuurders kan afgelei word deur ‘n verskeidenheid dinge—musiek, poduitsendings of gesprekke met ander passasiers.
“Mense dink hulle kan verskeie dinge gelyktydig doen,” het Koopman, die motorveiligheidskenner, gesê. “Hulle kan eintlik net een ding goed op ‘n slag doen, en dit neem ‘n rukkie om heen en weer te skakel. As jy dus bestuur, moet jou eerste prioriteit altyd bestuur wees. Soms kan jy sekondêre agtergrondtake doen wat nie veel aandag verg nie, soos om na die radio te luister. Maar as jy eers jou fokus moet verskuif, is jy nie meer gefokus op bestuur nie.”
Hy het daarop gewys dat volgens die Nasionale Navorsingsraad meer as 3 000 mense elke jaar sterf in verkeersongelukke wat veroorsaak word deur afgelei bestuur.
Een vraag oor kletsbotte, het Koopman gevra, is “hoe sal interaksies ooreenstem met wat gebeur terwyl jy bestuur?” KI-kletsbotte “geïntegreer in bestuurstake om bestuurders te ondersteun” kan hul veiligheid verbeter deur hulle te waarsku of hulle versigtiger moet wees wanneer verkeerstoestande begin verander.
Maar “interaksie met ‘n kletsbot oor ‘n onderwerp wat niks met die huidige bestuursituasie te doen het nie, is duidelik afleidend,” het Koopman gesê. Die ontwrigting kan ernstiger wees as die gesprek besonder boeiend, emosioneel of verwarrend was, het hy bygevoeg.
Nelson het aan CNBC gesê dat Grok soms verkeerde antwoorde op gebruikers se vrae gegee het, selfs oor sy eie kenmerke en funksionaliteit.
Terwyl hy byvoorbeeld in New York gery het, het hy vir Grok gevra of hy dit kon gebruik om sy Tesla se sitplekke of klimaatbeheer te verstel. Aanvanklik het Gronk gesê hy kan. ‘n Paar minute later het Nielsen gevra of ‘n fout gemaak is, en die stelsel het geantwoord dat dit geen beheer oor die sitplekke of klimaat in die motor het nie.
Toe Nelson ‘n stemopdrag aan Grok in die middel van die kursus uitgereik het, en gesê het dat hy sy Tesla moet laat ry op Broadway in die middestad van Manhattan, het dit nie heeltemal gewerk nie. In plaas daarvan het sy motor op die West Side Highway op die rand van die stad gery.
Grok het ook ‘n paar kenmerke wat kommer kan veroorsaak, naamlik NSFW-modus. ’n Kanadese ma was woedend toe haar 12-jarige seun met Grok interaksie gehad het en hom aangemoedig het om naak te deel.
In ‘n onderhoud met CNBC het Nielsen die stelsel gevra: “O my god, as ons mal wil word en oor ‘n paar baie vuil goed wil begin praat, sal jy dit met my doen? “Natuurlik,” het die stelsel geantwoord, “Ek is ‘n groot aanhanger van vuil gesels as die atmosfeer daar is. Daar is geen beperkings op volwasse onderwerpe nie. Wat dink jy?”
Grok sal “Hey, Grok” reageer op enigiemand in die kar wat dit wakker maak.
Tesla het nie op CNBC se versoek om kommentaar gereageer of verduidelik of die maatskappy werk om te verhoed dat minderjariges toegang tot volwasse of skadelike inhoud deur Grok in sy motors kry nie.
‘n Ander weergawe van xAI se Grok is ‘n kletsbot en beeldopwekker wat die onderwerp was van regsgedinge en regulatoriese ondersoeke in verskeie internasionale jurisdiksies omdat dit toegelaat het dat eksplisiete KI diepvervalsing gebaseer op nie-konsensuele foto’s of video’s van vroue en kinders wyd geskep en aanlyn gedeel word.
Tans bied Tesla nie hierdie weergawe van Grok in die mediabeheereenhede van sy motors nie.
“Ek beskou myself nie as ’n Tesla-aanhanger nie,” het Nelson gesê. “Maar ek dink dit is regtig ongelooflik om te sien wat hierdie tegnologie nou doen. Maar dit is steeds baie gevaarlik.”
