AI -asiantuntija on syyttänyt Openaia historiansa uudelleenkirjoittamisesta ja turvallisuusongelmien liian hylkäämisestä.
Entinen OpenAi -politiikan tutkija Miles Brundage kritisoi yrityksen äskettäistä turva- ja linjausasiakirja julkaistu tällä viikolla. Asiakirja kuvaa OpenAI: ta pyrkimyksenä keinotekoiseen yleiseen älykkyyteen (AGI) monissa pienissä vaiheissa sen sijaan, että se tekisi ”yksi jättiläinen harppaus”, sanoen, että iteratiivisen käyttöönoton prosessi antaa sille mahdollisuuden saada turvallisuuskysymyksiä ja tutkia AI: n väärinkäyttömahdollisuuksia jokaisessa vaiheessa.
Suositellut videot
CHATGPT: n kaltaisten AI -tekniikan monien kritiikkien joukossa asiantuntijat ovat huolissaan siitä, että chatbotit antavat epätarkkoja tietoja terveydestä ja turvallisuudesta (kuten Googlen AI -hakuominaisuuden surullisen kysymys, joka kehotti ihmisiä syömään kiviä) ja että niitä voidaan käyttää poliittiseen manipulointiin, vääriin tietoihin ja huijauksiin. Erityisesti Openai on herätti kritiikkiä Läpinäkyvyyden puutteen vuoksi, kuinka se kehittää AI -malleja, jotka voivat sisältää arkaluontoisia henkilötietoja.
OpenAi-asiakirjan julkaisu tällä viikolla näyttää olevan vastaus näihin huolenaiheisiin, ja asiakirja tarkoittaa, että edellisen GPT-2-mallin kehitys oli ”epäjatkuva” ja että sitä ei alun perin julkaistu ”haitallisten sovellusten huolenaiheiden” vuoksi, mutta nyt yritys on siirtymässä kohti iteratiivisen kehityksen periaatetta. Mutta Brundage väittää, että asiakirja muuttaa kertomusta eikä ole tarkka kuvaus Openain AI -kehityksen historiasta.
”Openain julkaisu GPT-2: sta, johon olin mukana, oli 100% johdonmukainen + ennakoi Openain nykyisen iteratiivisen käyttöönoton filosofian”, Brundage kirjoitti X. ”Malli julkaistiin asteittain, kun jokaisessa vaiheessa jaettiin. Monet tuolloin turvallisuusasiantuntijat kiittivät meitä tästä varovaisuudesta. ”
Brundage kritisoi myös yrityksen näennäistä lähestymistapaa tämän asiakirjan perusteella, joka kirjoitti: ”Tuntuu siltä, että tässä osiossa on asetettu todisteitakka, jossa huolet ovat hälytys +, tarvitset ylivoimaisia todisteita välittömistä vaaroista, jotta he voivat toimia – muuten, vain pitämään lähetys. Se on erittäin vaarallinen mentaliteetti edistyneille AI -järjestelmille. ”
Tämä tapahtuu aikaan, jolloin Openai on yhä enemmän valvontaa syytöksillä, joita se priorisoi ”Kiiltävät tuotteet” turvallisuuden yli.
Tue työtämme ❤️
Jos pidit tästä artikkelista, harkitse tipin antamista, jotta voimme jatkaa laadukkaan sisällön julkaisemista.
