Lo que debes saber
- El alcalde de la Ciudad de Nueva York, Eric Adams, ha estado utilizando inteligencia artificial para realizar llamadas automáticas que distorsionan su propia voz en varios idiomas que en realidad no habla, planteando nuevas cuestiones éticas sobre el uso que hace el gobierno de esta tecnología en rápida evolución.
- El alcalde habló a los periodistas sobre las llamadas automáticas el lunes y dijo que se realizaron en idiomas como mandarín y yiddish para promover eventos de contratación en la ciudad. No han incluido ninguna revelación de que solo habla inglés o que las llamadas se generaron utilizando IA.
NUEVA YORK -- El alcalde de la Ciudad de Nueva York, Eric Adams, ha estado utilizando inteligencia artificial (IA) para realizar llamadas automáticas que distorsionan su propia voz en varios idiomas que en realidad no habla, planteando nuevas cuestiones éticas sobre el uso que hace el gobierno de esta tecnología en rápida evolución.
El alcalde habló a los periodistas sobre las llamadas automáticas el lunes y dijo que se realizaron en idiomas como mandarín y yiddish para promover eventos de contratación en la ciudad. No han incluido ninguna revelación de que solo habla inglés o que las llamadas se generaron utilizando IA.
"La gente me para en la calle todo el tiempo y me dice: 'No sabía que hablabas mandarín, ¿sabes?'", dijo Adams, un demócrata. "En las llamadas automáticas que utilizamos, utilizamos diferentes idiomas para hablar directamente con la diversidad de los neoyorquinos".
Las llamadas se producen mientras los reguladores luchan por entender cuál es la mejor manera de navegar de manera ética y legal el uso de la inteligencia artificial, donde los videos o audios deepfake pueden hacer que parezca que cualquier persona en cualquier lugar está haciendo lo que una persona al otro lado de la pantalla de una computadora haciendo lo que quieran que hagan.
En Nueva York, el grupo de vigilancia Surveillance Technology Oversight Project criticó las llamadas automáticas de Adams como un uso poco ético de la inteligencia artificial que engaña a los residentes de la ciudad.
Manténte al tanto de las noticias locales y del estado del tiempo. Suscríbete a nuestros newsletters gratuitos aquí.
"El alcalde se está falsificando", afirmó Albert Fox Cahn, director ejecutivo de la organización. "Esto es profundamente poco ético, especialmente para el dinero de los contribuyentes. Usar IA para convencer a los neoyorquinos de que habla idiomas que no habla es completamente orwelliano. Sí, necesitamos anuncios en todos los idiomas nativos de los neoyorquinos, pero las falsificaciones profundas son sólo un espeluznante proyecto de vanidad".
Noticias
El uso creciente de inteligencia artificial y deepfakes, especialmente en política y desinformación electoral, ha provocado llamados y movimientos hacia una mayor regulación por parte del gobierno y las principales empresas de medios.
Google fue la primera gran empresa de tecnología en decir que impondría nuevas etiquetas a los anuncios políticos engañosos generados por IA que podrían falsificar la voz o las acciones de un candidato para desinformar las elecciones. Meta, matriz de Facebook e Instagram, no tiene una regla específica para los anuncios políticos generados por IA, pero tiene una política que restringe el audio y las imágenes "falsificadas, manipuladas o transformadas" utilizadas para desinformar.
Un proyecto de ley bipartidista en el Senado de Estados Unidos prohibiría los deepfakes "materialmente engañosos" relacionados con candidatos federales, con excepciones para parodias y sátiras. Este mes, dos miembros demócratas del Congreso enviaron una carta a los jefes de Meta y X, conocida formalmente como Twitter, para expresar su preocupación por los anuncios políticos generados por IA en sus plataformas de redes sociales.
En las últimas semanas, varias empresas de tecnología han mostrado herramientas de inteligencia artificial que pueden doblar sintéticamente el habla de una persona en otro idioma de manera que parezca como si esa persona estuviera hablando en ese idioma.
En septiembre, el servicio de transmisión de música Spotify introdujo una función de inteligencia artificial para traducir un podcast a varios idiomas con la voz del podcaster. Más recientemente, la startup ElevenLabs presentó en octubre una herramienta de traducción de voz que, según dijo, "puede convertir contenido hablado a otro idioma en minutos, preservando al mismo tiempo la voz del hablante original".
Adams se defendió de las cuestiones éticas sobre su uso de la inteligencia artificial y dijo que su oficina está tratando de llegar a los neoyorquinos a través de los idiomas que hablan.
"Tengo una cosa: tengo que dirigir la ciudad y tengo que poder hablar con la gente en los idiomas que entienden, y estoy feliz de hacerlo", dijo. "Y a todos, todo lo que puedo decir es 'ni hao'".
