Empresas de tecnología combatirán engaños electorales por IA
Directivos de Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI y TikTok se reunieron para anunciar un nuevo marco sobre cómo responder a las deepfakes.
- Por: AP
- 16 Febrero 2024, 18:49
Varias empresas tecnológicas muy destacadas firmaron este viernes un pacto para adoptar voluntariamente “precauciones razonables” a fin de impedir que se utilicen herramientas de inteligencia artificial para trastornar elecciones democráticas en el mundo.
Directivos de Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI y TikTok se reunieron en la Conferencia de Seguridad de Múnich para anunciar un nuevo marco sobre cómo responder a las deepfakes, imágenes generadas por inteligencia artificial, que son utilizadas para engañar deliberadamente a los votantes.
Otras 12 empresas, entre ellas X de Elon Musk, también firmarán el acuerdo.
“Todo el mundo reconoce que ninguna empresa tecnológica, ningún gobierno y ninguna organización de la sociedad civil por sí sola puede afrontar el advenimiento de esta tecnología y su posible uso nefasto”, dijo Nick Clegg, presidente de asuntos globales de Meta, la empresa matriz de Facebook e Instagram, en una entrevista antes de la conferencia.
El acuerdo, en gran medida simbólico, apunta a las imágenes, audio y video cada vez más realistas generados mediante IA “que alteran o falsifican engañosamente la apariencia, voz o acciones de candidatos políticos, funcionarios electorales y otros interesados cruciales en una elección democrática, o que brindan información falsa a los votantes acerca de cuándo, dónde y cómo pueden votar legalmente”.
Las empresas no se comprometen a prohibir o borrar los deepfakes. En lugar de eso, el acuerdo esboza los métodos que usarán para intentar detectar y etiquetar el contenido engañoso generado por IA cuando sea creado o difundido en sus plataformas.
Las compañías compartirán entre ellas los mejores métodos y responderán “de manera veloz y proporcional” cuando ese contenido empiece a propagarse.
La vaguedad de los compromisos y la ausencia de requisitos vinculantes probablemente ayudó a atraer a una amplia gama de empresas, pero algunos activistas decepcionados esperaban algo más concreto y firme.
“El lenguaje no es tan fuerte como uno podría haber esperado”, dijo Rachel Orey, directora adjunta sénior del Proyecto Electoral en el Centro de Políticas Bipartidistas, un centro de investigación con sede en Washington, D.C.
“Creo que deberíamos dar el crédito donde corresponde, y reconocer que las empresas sí tienen un interés personal de que sus herramientas no sean utilizadas para socavar elecciones libres e imparciales. Dicho esto, se trata de algo voluntario y estaremos atentos a ver si lo cumplen”
Rachel Orey
Clegg dijo que cada compañía “tiene, y con razón, su propio conjunto de políticas de contenido”.
“Esto no es intentar imponer una camisa de fuerza a todo el mundo”, comentó. “Y en cualquier caso, nadie en la industria cree que puede hacer frente a un paradigma tecnológico totalmente nuevo haciéndose de la vista gorda e intentando resolver problemas que surgen una y otra vez y encontrando todo lo que cree que podría engañar a alguien”.
Varios dirigentes políticos de Europa y Estados Unidos también se sumaron al anuncio de hoy. La vicepresidenta de la Comisión Europea, Vera Jourova, dijo que si bien un acuerdo de este tipo no puede ser integral, “contiene elementos de gran impacto y muy positivos”.
También pidió a sus colegas políticos asumir la responsabilidad de no utilizar las herramientas de IA de forma engañosa, y advirtió de que la desinformación alimentada por la IA podría traer consigo “el fin de la democracia, no sólo en los Estados miembros de la UE”.
El acuerdo alcanzado en la reunión anual de seguridad en la ciudad alemana llega en un momento en que más de 50 países celebrarán elecciones a nivel nacional en 2024. Bangladesh, Taiwán, Pakistán y recientemente Indonesia ya lo hicieron.
Compartir en: