Technikai cégek egyezményt írnak alá a mesterséges intelligencia választási beavatkozása elleni küzdelemről
Technikai cégek egyezményt írnak alá a mesterséges intelligencia választási beavatkozása
A nagy technológiai vállalatok pénteken egyezményt írtak alá, hogy önkéntesen elfogadják az „ésszerű óvintézkedéseket” annak megakadályozására, hogy mesterséges intelligencia eszközöket használjanak a demokratikus választások megzavarására szerte a világon.
Az Adobe, az Amazon, a Google, az IBM, a Meta, a Microsoft, az OpenAI és a TikTok technológiai vezetői összegyűltek a müncheni biztonsági konferencián, hogy bejelentsenek egy új önkéntes keretrendszert arra vonatkozóan, hogyan reagálnak az AI által generált mélyhamisításokra, amelyek szándékosan megtévesztik a szavazókat. Tizenkét másik cég – köztük Elon Musk X-je – szintén aláírja a megállapodást.
„Mindenki tisztában van azzal, hogy egyetlen technológiai vállalat, egyetlen kormány vagy civil szervezet sem képes egyedül megbirkózni e technológia megjelenésével és esetleges aljas felhasználásaival” – mondta Nick Clegg, a Meta, a Meta, a vállalat anyavállalatának globális ügyekért felelős elnöke. A Facebook és az Instagram egy interjúban a csúcstalálkozó előtt.
A megállapodás nagyrészt szimbolikus, de egyre inkább valósághű, mesterséges intelligencia által generált képeket, hangokat és videókat céloz meg, „amelyek megtévesztő módon meghamisítják vagy megváltoztatják a politikai jelöltek, választási tisztviselők és más kulcsfontosságú szereplők megjelenését, hangját vagy cselekedeteit a demokratikus választásokon, vagy hamis információkat szolgáltatnak. a választóknak arról, hogy mikor, hol és hogyan szavazhatnak legálisan.”
A cégek nem vállalják a mélyhamisítások betiltását vagy eltávolítását. Ehelyett a megállapodás felvázolja azokat a módszereket, amelyekkel megpróbálják észlelni és megjelölni a megtévesztő mesterséges intelligencia-tartalmat, amikor azt létrehozzák vagy terjesztik a platformjaikon. Megjegyzi, hogy a vállalatok megosztják egymással a bevált gyakorlatokat, és „azonnali és arányos válaszokat” adnak, amikor a tartalom elkezd terjedni.
A kötelezettségvállalások homályossága és a kötelező érvényű követelmények hiánya valószínűleg a vállalatok széles körét megnyerte, de csalódást okozhat a demokráciapárti aktivistáknak és az erősebb biztosítékokat kereső őrzőknek.
„A nyelvezet nem olyan erős, mint azt várni lehetett” – mondta Rachel Orey, a Bipartisan Policy Center választási projektjének vezető helyettes igazgatója. „Úgy gondolom, hogy hitelt kell adnunk ott, ahol a hitel esedékes, és fel kell ismernünk, hogy a vállalatoknak érdekük fűződik ahhoz, hogy eszközeiket ne a szabad és tisztességes választások aláásására használják. Ennek ellenére ez önkéntes, és figyelemmel kísérjük, hogy követik-e ezt.”
Clegg szerint minden vállalat „jogosan rendelkezik saját tartalmi irányelvekkel”.
Szerezd meg a legfrissebb országos híreket. Minden nap elküldve az email címedre.
„Ez nem arra irányuló kísérlet, hogy mindenkire kényszerzubbonyot kényszerítsenek” – mondta. „És mindenesetre az iparban senki sem gondolja, hogy egy teljesen új technológiai paradigmával megbirkózhat azáltal, hogy a dolgokat a szőnyeg alá söpörve megpróbálja megjátszani a vakondot, és megtalálni bármit, amiről úgy gondolja, hogy félrevezethet valakit.”
A műszaki vezetőkhöz több európai és amerikai politikai vezető is csatlakozott a pénteki bejelentéskor. Vera Jourova, az Európai Bizottság alelnöke elmondta, hogy bár egy ilyen megállapodás nem feltétlenül átfogó, „nagyon hatékony és pozitív elemeket tartalmaz”. Arra is felszólított más politikusokat, hogy vállalják a felelősséget, hogy ne használják az AI-eszközöket félrevezető módon.
Hangsúlyozta a probléma súlyosságát, mondván: „a dezinformáció célját szolgáló mesterséges intelligencia és a dezinformációs kampányok kombinációja a demokrácia végét jelentheti, nem csak az uniós tagállamokban”.
A német város éves biztonsági találkozóján a megállapodás megszületik, mivel 2024-ben több mint 50 országban tartanak országos választásokat. Néhányan már megtették ezt, köztük Banglades, Tajvan, Pakisztán és legutóbb Indonézia.
A mesterséges intelligencia által generált választási beavatkozási kísérletek már elkezdődtek, mint amikor a múlt hónapban Joe Biden amerikai elnök hangját utánzó mesterséges intelligencia-hívások próbálták lebeszélni az embereket a szavazásról a New Hampshire-i előválasztáson.
Napokkal a novemberi szlovákiai választások előtt mesterséges intelligencia által készített hangfelvételek utánozták azt a liberális jelöltet, aki a sörárak emelésének és a választások meghamisításának terveiről tárgyal. A tényellenőrzők megpróbálták hamisként azonosítani őket, de már széles körben megosztották őket valódiként a közösségi médiában.
A politikusok és a kampánybizottságok is kísérleteztek a technológiával, kezdve a mesterséges intelligencia chatbotjaitól a szavazókkal való kommunikációhoz egészen a mesterséges intelligencia által generált képek hirdetésekhez való hozzáadásáig.
A pénteki megállapodás szerint a mesterséges intelligencia által generált mélyhamisításokra válaszul a platformok „tisztában lesznek a kontextussal, és különösen az oktatási, dokumentumfilmes, művészi, szatirikus és politikai kifejezésmód védelmében”.
A közlemény szerint a vállalatok a felhasználók felé az átláthatóságra fognak összpontosítani a félrevezető mesterségesintelligencia-választási tartalommal kapcsolatos politikáikkal kapcsolatban, és azon dolgoznak, hogy felvilágosítsák a közvéleményt arról, hogyan kerüljék el a mesterséges intelligencia-hamisítványok bedőlését.
A vállalatok közül többen korábban azt nyilatkozták, hogy biztosítékokat helyeznek el saját generatív mesterséges intelligencia-eszközeikre, amelyek képesek manipulálni a képeket és a hangot, miközben azon is dolgoznak, hogy azonosítsák és megjelöljék a mesterséges intelligencia által generált tartalmakat, hogy a közösségi média felhasználók tudják, hogy valódiak-e. . A javasolt megoldások többségét azonban még be kell vezetni, és a vállalatok a szabályozók és mások nyomásával szembesültek, hogy tegyenek többet.
Ez a nyomás fokozódik az Egyesült Államokban, ahol a Kongresszus még nem fogadta el a mesterséges intelligenciát szabályozó törvényeket a politikában, így az AI-cégek nagyrészt magukra maradnak. Szövetségi jogszabályok hiányában sok állam fontolgatja, hogyan lehetne korlátokat állítani a mesterséges intelligencia felhasználása körül a választásokon és más alkalmazásokban.
A Szövetségi Kommunikációs Bizottság nemrégiben megerősítette, hogy a mesterséges intelligencia által generált hangklipek robothívásokban törvénybe ütköznek, de ez nem vonatkozik a mélyhamisításokra, amikor azok közösségi médiában vagy kampányhirdetésekben keringenek.
A dezinformációs szakértők arra figyelmeztetnek, hogy bár a mesterséges intelligencia mélyhamisításai különösen aggodalomra adnak okot amiatt, hogy idén a radar alá repülnek, és megingatják a szavazókat, a dezinformáció olcsóbb és egyszerűbb formái továbbra is komoly veszélyt jelentenek. A megállapodás ezt is megjegyezte, és elismerte, hogy „a hagyományos manipulációk („olcsó hamisítványok”) hasonló célokra felhasználhatók.”
Sok közösségi médiával foglalkozó vállalat már rendelkezik olyan irányelvekkel, amelyek megakadályozzák a választási folyamatokkal kapcsolatos félrevezető bejegyzéseket – akár mesterséges intelligencia által generált, akár nem. Például a Meta azt állítja, hogy eltávolítja a félretájékoztatást „a szavazás dátumairól, helyeiről, időpontjairól és módszereiről, a szavazók regisztrációjáról vagy a népszámlálásban való részvételről”, valamint az egyéb hamis bejegyzéseket, amelyek célja egy személy állampolgári részvételének megzavarása.
Jeff Allen, az Integrity Institute társalapítója és a Facebook korábbi adattudósa szerint a megállapodás „pozitív lépésnek” tűnik, de továbbra is szeretné látni, hogy a közösségi média cégek más alapvető lépéseket tegyenek a félretájékoztatás leküzdésére, például tartalomajánlást építsenek ki. olyan rendszerek, amelyek nem az elkötelezettséget helyezik előtérbe mindennél.
Lisa Gilbert, a Public Citizen érdekképviseleti csoport ügyvezető alelnöke pénteken azzal érvelt, hogy a megállapodás „nem elég”, és az AI-cégeknek „vissza kell tartaniuk a technológiát”, például a hiperrealisztikus szöveg-videó generátorokat, „amíg nem jelentősek és elegendő biztosíték van érvényben ahhoz, hogy sok lehetséges problémát elkerüljünk.”
A pénteki üzletet segítő főbb platformokon kívül az aláírók között szerepel a chatbot-fejlesztők, az Anthropic és az Inflection AI; hangklón indító ElevenLabs; chiptervező Arm Holdings; McAfee és TrendMicro biztonsági cégek; és a Stability AI, amely a Stable Diffusion képgenerátor létrehozásáról ismert.
Az ügyletből különösen hiányzik egy másik népszerű AI képgenerátor, a Midjourney. A San Franciscó-i székhelyű startup pénteken nem küldte azonnal visszajelzési kérését.
X szerepeltetése – amelyet a függőben lévő megállapodásról szóló korábbi bejelentés nem említett – a pénteki megállapodás egyik legnagyobb meglepetése volt. Musk erősen megnyirbálta a tartalommoderáló csapatokat, miután átvette a korábbi Twittert, és „abszolút szólásszabadságnak” nevezte magát.
Linda Yaccarino, az X vezérigazgatója pénteki nyilatkozatában azonban kijelentette, hogy „minden polgár és vállalkozás felelőssége a szabad és tisztességes választások biztosítása”.
„Az X elkötelezett amellett, hogy kivegye a részét azáltal, hogy együttműködik társaival az MI-fenyegetések elleni küzdelemben, miközben védi a szólásszabadságot és maximalizálja az átláthatóságot” – mondta.
