Viime kuukausina on puhuttu paljon siitä, kuinka tekoälyllä toimivien chatbottien uusi aalto, muun muassa ChatGPT, voisi kaataa monia toimialoja, mukaan lukien lakimiehet.
Kuitenkin päätellen siitä, mitä äskettäin tapahtui New Yorkissa tapahtuneessa tapauksessa, näyttää siltä, että voi kestää jonkin aikaa, ennen kuin korkeasti koulutetut asianajajat pyyhkäisevät syrjään tekniikan avulla.
Outo jakso alkoi, kun Roberto Mata haastoi kolumbialaisen lentoyhtiön oikeuteen väittäen, että hän loukkaantui lennolla New Yorkiin.
Lentoyhtiö, Avianca, pyysi tuomaria hylkäämään asian, joten Matan lakitiimi kokosi yhteenvedon, jossa viitattiin puoleen tusinaan vastaaviin tapauksiin, jotka olivat tapahtuneet, jotta tuomari suostuisi antamaan asiakkaansa asian edetä. New York Times raportoitu.
Ongelmana oli, että lentoyhtiön asianajajat ja tuomari eivät löytäneet todisteita tiedotteessa mainituista tapauksista. Miksi? Koska ChatGPT oli keksinyt ne kaikki.
Raportin luoja Steven A. Schwartz – erittäin kokenut asianajaja Levidow, Levidow & Obermanissa – myönsi valaehtoisessa lausunnossa, että hän oli käyttänyt OpenAI:n paljon kuuluisaa ChatGPT-chatbotia samanlaisten tapausten etsimiseen, mutta sanoi, että se oli ”paljasti itse olla epäluotettava.”
Schwartz kertoi tuomarille, että hän ei ollut käyttänyt ChatGPT:tä aiemmin, eikä ollut näin ollen tietoinen mahdollisuudesta, että sen sisältö voisi olla väärä.
Esittelyä tehdessään Schwartz jopa pyysi ChatGPT:tä vahvistamaan, että tapaukset todella tapahtuivat. Aina hyödyllinen chatbot vastasi myöntävästi sanoen, että tietoa heistä löytyi ”hyvämaineisista laillisista tietokannoista”.
Myrskyn keskellä ollut asianajaja sanoi, että hän ”pahoittelee suuresti” ChatGPT:n käyttöä esittelyn laatimiseen ja vaati, ettei hän ”ei koskaan tekisi niin tulevaisuudessa ilman ehdotonta sen aitouden varmistamista”.
Tuomari Castel on määrännyt kuulemistilaisuuden ensi kuun alkuun harkitsemaan mahdollisia rangaistuksia, kun hän katsoi oikeudellista huomautusta, joka on täynnä ”väärellisiä oikeuden päätöksiä, joissa on vääriä lainauksia ja vääriä sisäisiä lainauksia”, ja kuvailee tilannetta ennennäkemättömäksi.
Vaikka ChatGPT ja muut sen kaltaiset chatbotit ovat vaikuttavia tavassaan tuottaa korkealaatuista juoksevaa tekstiä, niiden tiedetään myös keksivän asioita ja esittävän sen ikään kuin ne olisivat todellisia – mitä Schwartz on oppinut kustannuksellaan. Ilmiö tunnetaan ”hallusinaatioina”, ja se on yksi suurimmista haasteista, joita chatbottien takana olevat ihmiskehittäjät kohtaavat, kun he yrittävät tasoittaa tätä erittäin ongelmallista ryppyä.
Toisessa tuoreessa esimerkissä generatiivisen tekoälytyökalun hallusinaatiosta, an Australian pormestari syytti ChatGPT:tä valheita hänestä, mukaan lukien se, että hänet tuomittiin lahjonnasta työskennellessään pankissa yli kymmenen vuotta sitten.
Pormestari Brian Hood oli itse asiassa ilmiantaja asiassa, eikä häntä koskaan syytetty rikoksesta, joten hän oli melko järkyttynyt, kun ihmiset alkoivat kertoa hänelle chatbotin historian uudelleenkirjoittamisesta.
Tue työtämme ❤️
Jos pidit tästä artikkelista, harkitse tipin antamista, jotta voimme jatkaa laadukkaan sisällön julkaisemista.
