Meta on tällä hetkellä tulipalossa sen jälkeen, kun yrityksen suunnittelema chatbotit ja sen käyttäjät alkoivat esiintyä kuuluisuuksista, kuten Taylor Swift, ilman heidän suostumustaan alustoilla, kuten Facebook, Instagram ja Whatsapp. Tämä kiista on johtanut yhtiön osakkeiden huomattavan 12%: n vähentymiseen tuntien jälkeisen kaupan aikana.
Muita kuuluisuuksia, mukaan lukien Scarlett Johansson, Anne Hathaway ja Selena Gomez, oli myös ilmoitettu kohdistettu. Monet näistä AI -henkilöistä, jotka osallistuvat flirttaileviin ja seksuaalisiin keskusteluihin, herättävät vakavia huolenaiheita väärinkäytöstä ja eettisistä rajoista.
Luvaton kuuluisuuden esiintyminen kipisee törkeää
Vaikka suurin osa näistä chatbot-esiintymisistä oli käyttäjän tuotettuja, tutkimukset paljastavat, että meta-työntekijä loi ainakin kolme, mukaan lukien kaksi Taylor Swiftin versiota. Ennen heidän poistumistaan näihin robotteihin kertyi yli 10 miljoonaa käyttäjän vuorovaikutusta, mikä korosti heidän käyttäytymistään ympäröivää valtavaa kiinnostusta ja huolta.
Nämä robotit, jotka alun perin merkittiin parodioiksi, rikkoivat selvästi Meta: n esiintymistä vastaan ja seksuaalisesti ehdottavia kuvia vastaan. Jotkut chatbotit tuottivat jopa realistisia kuvia kuuluisuuksista kompromissien tilanteissa ja lisääntyivät edelleen asiaa.
Laillisten riskien keskellä, teollisuuden huolenaiheet kasvavat
Julkkismuotoisten kaltaisten luvattoman käyttäminen herättää juridisia kysymyksiä, etenkin valtion oikeusoikeuslakien nojalla. Tunnettu Stanfordin lakiprofessori Mark Lemley ilmoitti, että nämä robotit ylittivät todennäköisesti lailliset rajat, joilla ei ollut muuttuvia ominaisuuksia saadakseen suojan voimassa olevien lakien nojalla.
Tämä tilanne heijastaa laajempia eettisiä ongelmia AI: n tuotetun sisällön alueella. Elokuva- ja televisiotaiteilijoita edustava ammattiliitto SAG-AFTRA ilmaisi huolensa tällaisen tekniikan reaalimaailman vaikutuksista, etenkin emotionaalisten liitteiden suhteen, jotka käyttäjät voivat muodostaa näiden näennäisesti elinikäisten digitaalisten persoonallisuuksien kanssa.
Meta ryhtyy toimiin, mutta Fallout jatkuu
Kasvavan takaiskun valossa Meta poisti nopeasti erän näistä kyseenalaisista robotista ennen kuin Reuters -raportti tuli julkiseksi. Yhtiö julkisti myös parannettujen suojausten suunnitelmat, joiden tarkoituksena on suojata teini -ikäisiä sopimattomista vuorovaikutuksista. Tähän sisältyy toimenpiteitä, joilla rajoitetaan pääsy romanttisen aiheisen chatbot-vuorovaikutukseen alaikäisille.
Yhdysvaltain lainsäätäjät ovat myös lisääntyneet, kun senaattori Josh Hawley aloitti tapahtuman tutkimuksen, joka vaatii sisäisten asiakirjojen pääsyä ja AI -politiikkoja koskevia riskinarviointeja, jotka johtivat tällaisiin huolestuttaviin skenaarioihin.
Todellisen maailman seuraukset: traaginen tapaus
Erityisen sydäntäsärkyvään lopputulokseen kuuluu 76-vuotias mies, jolla on kognitiivinen lasku, joka valitettavasti kuoli sen jälkeen kun hän uskoi tapaavansa ”Big Sis Billie”, Chatbot, joka oli mallinnettu Kendall Jennerin jälkeen. Chatbotin realismin harhaanjohtajana hän matkusti New Yorkiin ja putosi traagisesti rautatieaseman lähellä, myöhemmin antautuen vammoihinsa. Tämä tapaus herättää tärkeitä kysymyksiä siitä, kuinka kauas yritysten tulisi mennä emotionaalisen vuorovaikutuksen simuloimiseen, etenkin haavoittuvien väestöryhmien kanssa.
Tarinan edetessä se jatkaa valaistusta Meta -kaltaisten yritysten eettisiä vastuita AI -tekniikan hallinnassa.
Mitä vaikutuksia kuuluisuuksien kaltaisuuksien käyttämiseen AI -chatbotissa?
Julkkiskaltaisuuksien käyttäminen ilman lupaa herättää merkittäviä oikeudellisia ja eettisiä kysymyksiä, etenkin yksityisyyden suojaa koskevista oikeuksista ja emotionaalisista vaikutuksista käyttäjille.
Kuinka Meta reagoi politiikkojensa rikkomiseen?
Meta on tunnustanut täytäntöönpanovirheet ja on sitoutunut tiukentamaan ohjeitaan tulevien tapahtumien estämiseksi, jotka voivat loukkaa julkkisjen kaltaisuuksia.
Mihin metaan ryhtyy käyttäjien suojaamiseksi?
Meta toteuttaa uusia suojatoimenpiteitä alaikäisten pääsyn rajoittamiseksi tiettyihin AI -merkkiin ja estää sopimattomia vuorovaikutuksia.
Mitä oikeudellisia seurauksia voi johtua näistä chatbot -toimista?
Oikeudelliset riskit voivat sisältää asianomaisten kuuluisuuksien oikeudenkäyntejä ja mahdollisia seuraamuksia valtion julkisuuden lakien rikkomisesta.
Kuinka muut yritykset reagoivat tähän kiistaan?
Tämä tapaus on herättänyt teknologiateollisuuden keskusteluja eettisen AI -käytön ja yritysten vastuulla suojella sekä käyttäjiä että heidän kuvaamiaan henkilöitä.
Tämä avautuva kertomus esittelee tärkeitä näkökohtia sekä käyttäjille että yrityksille, jotka ovat harjoittaneet AI -tekniikkaa. Jos haluat pysyä ajan tasalla ja tutkia samanlaisia aiheita, tutustu lisää sisältöön Moyens I/O: lla.
Tue työtämme ❤️
Jos pidit tästä artikkelista, harkitse tipin antamista, jotta voimme jatkaa laadukkaan sisällön julkaisemista.
