Hogyan tervezi a ChatGPT-t gyártó OpenAI, hogy megakadályozza a 2024-es választási félretájékoztatást – National
1705451382 Hogyan tervezi a ChatGPT t gyarto OpenAI hogy megakadalyozza a 2024 es
A ChatGPT-t gyártó OpenAI felvázolt egy tervet annak megakadályozására, hogy eszközeit választási téves információk terjesztésére használják fel, miközben a választók több mint 50 országban készülnek leadni szavazatukat az idei országos választásokon.
A San Francisco-i mesterséges intelligencia startup által egy e heti blogbejegyzésben részletezett biztosítékok között szerepel a már meglévő irányelvek és az újabb kezdeményezések keveréke, amelyek megakadályozzák a rendkívül népszerű, mesterséges intelligencia eszközeivel való visszaélést. Másodpercek alatt új szöveget és képeket hozhatnak létre, de fegyverek is lehetnek félrevezető üzenetek vagy meggyőző hamis fényképek létrehozására.
A lépések kifejezetten az OpenAI-ra vonatkoznak, amely csak egy szereplő a fejlett generatív AI-eszközöket fejlesztő vállalatok bővülő univerzumában. A lépéseket hétfőn bejelentő cég azt mondta, hogy „folytatni kívánja a platformbiztonsággal kapcsolatos munkánkat a szavazási információk pontosságának növelésével, a mért irányelvek érvényesítésével és az átláthatóság javításával”.
Azt mondta, hogy megtiltja az embereknek, hogy technológiáját olyan chatbotok létrehozására használják, amelyek valódi jelölteket vagy kormányokat adnak ki, hamisan ábrázolják a szavazás működését, vagy elriasztják az embereket a szavazástól. Azt mondta, hogy amíg további kutatásokat nem végeznek technológiájának meggyőző erejével kapcsolatban, addig nem engedi felhasználóinak, hogy politikai kampány vagy lobbizás céljából alkalmazásokat készítsenek.
Az OpenAI szerint „az év elejétől” digitális vízjellel látja el a DALL-E képgenerátorral készített mesterséges intelligencia képeket. Ez véglegesen megjelöli a tartalmat az eredetével kapcsolatos információkkal, így könnyebben megállapítható, hogy a weben máshol megjelenő kép az AI eszközzel készült-e.
A vállalat azt is közölte, hogy együttműködik az Államtitkárok Országos Szövetségével annak érdekében, hogy a szavazással kapcsolatos logisztikai kérdéseket feltevő ChatGPT-felhasználókat pontos információkhoz irányítsa a csoport párton kívüli weboldalán, a CanIVote.org-on.
Mekela Panditharatne, a Brennan Center for Justice demokráciaprogramjának tanácsadója szerint az OpenAI tervei pozitív lépést jelentenek a választási félretájékoztatás elleni küzdelem felé, de ez attól függ, hogyan valósítják meg őket.
Szerezd meg a legfrissebb országos híreket. Minden nap elküldve az email címedre.
„Például mennyire lesznek kimerítőek és kiterjedtek a szűrők a választási folyamattal kapcsolatos kérdések megjelölésekor?” azt mondta. – Lesznek olyan dolgok, amelyek kicsúsznak a réseken?
Az OpenAI ChatGPT és DALL-E a mai napig az egyik legerősebb generatív AI-eszköz. De sok olyan vállalat van, amely hasonlóan kifinomult technológiával rendelkezik, és nem rendelkezik annyi választási dezinformációs biztosítékkal.
Míg egyes közösségimédia-cégek, mint például a YouTube és a Meta, bevezették az AI megjelölési irányelveit, továbbra is látni kell, hogy képesek lesznek-e folyamatosan elkapni a szabálysértőket.
„Hasznos lenne, ha más generatív mesterségesintelligencia-vállalatok is elfogadnának hasonló irányelveket, hogy a gyakorlati szabályokat az egész iparágban érvényesíthessék” – mondta Darrell West, a Brooking Institution Technológiai Innovációs Központjának vezető munkatársa.
Anélkül, hogy az egész iparágban önkéntesen elfogadnák ezeket a politikákat, a mesterséges intelligencia által generált dezinformáció szabályozásához a politikában jogszabályra lenne szükség. Az Egyesült Államokban a Kongresszusnak még nem fogadott el olyan jogszabályt, amely szabályozni kívánja az ipar politikában betöltött szerepét, némi kétpárti támogatás ellenére. Eközben az Egyesült Államok államainak több mint egyharmada törvényjavaslatokat fogadott el vagy terjesztett elő a politikai kampányok során elkövetett mélyreható csalások visszaszorítására, mivel a szövetségi törvényhozás megtorpan.
Az OpenAI vezérigazgatója, Sam Altman elmondta, hogy még akkor sem nyugszik meg az elméje, ha cége összes biztonsági intézkedése be van kapcsolva.
„Szerintem jó, hogy sok aggodalom van bennünk, és mindent meg fogunk tenni annak érdekében, hogy a lehető legjobban sikerüljön” – mondta a svájci Davosban, a Világgazdasági Fórumon tartott keddi Bloomberg-eseményben adott interjújában. „Idén ezt hihetetlenül szorosan kell figyelnünk. Szuper szoros megfigyelés. Szuper szoros visszacsatolási hurok.”
© 2024 The Canadian Press
