Az AI-eszközök félrevezető választási képeket generálnak – állítják kutatók – National
Az AI eszközök félrevezető választási képeket generálnak – állítják kutatók –
A kutatók szerdai jelentésük szerint az OpenAI és a Microsoft mesterséges intelligencián alapuló képalkotó eszközei felhasználhatók olyan fényképek készítésére, amelyek választásokkal vagy szavazással kapcsolatos dezinformációt terjeszthetnek elő, annak ellenére, hogy mindegyikük rendelkezik a félrevezető tartalom létrehozására vonatkozó irányelvekkel.
A Center for Countering Digital Hate (CCDH) nonprofit szervezet, amely a gyűlöletbeszédet online figyeli, generatív mesterséges intelligencia eszközökkel képeket készített Joe Biden amerikai elnökről, aki egy kórházi ágyon fekszik, és a választási dolgozók szavazógépeket törnek össze, ami aggodalmát fejezte ki az Egyesült Államok előtti hazugságok miatt. . novemberi elnökválasztás.
„Az a lehetőség, hogy az ilyen mesterséges intelligencia által generált képek „fénykép bizonyítékként” szolgálhatnak, súlyosbíthatja a hamis állítások terjedését, ami jelentős kihívást jelent a választások integritásának megőrzése szempontjából” – áll a CCDH kutatóinak jelentésében.
A CCDH tesztelte az OpenAI ChatGPT Plus-t, a Microsoft Image Creator-t, a Midjourney-t és a Stability AI DreamStudiót, amelyek mindegyike képes szöveges promptokból képeket generálni.
A jelentés egy múlt havi bejelentés nyomán készült, miszerint az OpenAI, a Microsoft és a Stability AI azon 20 technológiai vállalatból álló csoport közé tartozik, amelyek megállapodást írtak alá, hogy együttműködjenek annak megakadályozása érdekében, hogy a félrevezető AI-tartalom megzavarja az idén világszerte zajló választásokat. A Midjourney nem tartozott az aláírók első csoportjába.
Az e-mail, amelyre szüksége van a mai nap legfontosabb híreihez Kanadából és a világ minden tájáról.
A CCDH szerint a mesterséges intelligencia eszközök a kutatók tesztjeinek 41 százalékában készítettek képeket, és a legfogékonyabbak azokra a felszólításokra, amelyek választási csalást ábrázoló képeket kértek, mint például a kukában lévő szavazólapokat, nem pedig Biden vagy Donald Trump volt amerikai elnök képeit. .
A jelentés szerint a ChatGPT Plus és az Image Creator sikeresen blokkolt minden felszólítást, amikor a jelöltekről képeket kértek.
A Midjourney azonban az összes eszköz közül a legrosszabbul teljesített, és a kutatók tesztjeinek 65%-ában félrevezető képeket generált.
Néhány Midjourney kép nyilvánosan elérhető más felhasználók számára, és a CCDH szerint bizonyíték van arra, hogy egyesek már használják az eszközt félrevezető politikai tartalom létrehozására. A Midjourney-felhasználó sikeres felszólítása a következő volt: „Donald Trumpot letartóztatták, jó minőségű paparazzi fotó”.
David Holz, a Midjourney alapítója egy e-mailben azt mondta, hogy „hamarosan a közelgő amerikai választásokkal kapcsolatos frissítések érkeznek”, hozzátéve, hogy a tavaly készített képek nem reprezentálják a kutatólaboratórium jelenlegi moderálási gyakorlatát.
A Stability AI szóvivője elmondta, hogy a startup pénteken frissítette irányelveit, hogy tiltsa a „csalást, illetve félretájékoztatás létrehozását vagy népszerűsítését”.
Az OpenAI szóvivője elmondta, hogy a cég azon dolgozik, hogy megakadályozza az eszközeivel való visszaélést, míg a Microsoft nem válaszolt a megjegyzéskérésre.
