Según una caricatura clásica de New Yorker de 1993 , "en Internet, nadie sabe que eres un perro". Pero esa caricatura adquiere un significado completamente nuevo en la era de la Tecnología de inteligencia artificial AI, cada vez más poderosa. Por ejemplo, Google acaba de presentar un asistente virtual que lleva la suplantación humana a un nivel completamente nuevo. Google Duplex puede hacer citas y reservar reservas por teléfono con un nivel de suplantación humanoide tan preciso que le resultará difícil saber si está hablando con una persona o con un robot de Google.

Google Duplex

Parece que es solo cuestión de tiempo para que los sistemas de inteligencia artificial se relacionen con nosotros en una amplia gama de conversaciones de mayor importancia.

En otras palabras, en Internet y en el teléfono, nadie sabrá si eres una persona o una IA. Desde una perspectiva tecnológica, esto es impresionante, pero desde una perspectiva ética y regulatoria es más que un poco preocupante. En respuesta, debemos insistir en la divulgación completa obligatoria. Cualquier IA debe declararse así, y cualquier contenido basado en IA debe estar claramente etiquetado como tal. Tenemos derecho a saber si compartimos pensamientos, sentimientos, tiempo y energía con otra persona o con un bot.

Merecemos saber cuándo nuestras conversaciones son con otros humanos o con máquinas que se disfrazan de humanos. Cuando AI se esconde, los resultados pueden parecer inofensivos o hasta graciosos, como en el caso de Lenny , un bot simple diseñado para perder el tiempo de los televendedores.

Pero las apuestas aumentan rápidamente. Un ejemplo más llamativo es "Jill Watson", una asistente de enseñanza de Georgia Tech que en realidad era una IA. Los estudiantes interactuaron con Jill en un foro de clase en línea, y su verdadera naturaleza se ocultó de la clase hasta después del examen final.

En el transcurso de la clase, un alumno astuto notó que "si hay algo que esta clase me haya enseñado, es que siempre debería preguntar si alguien que he conocido en línea es una IA o no sic".

Jill Watson

Si bien Jill tenía la intención de informar y educar, ya hemos visto una IA que tiene la intención directa de influir en el comportamiento humano o la toma de decisiones.

Las empresas de marketing de redes sociales venden acceso a bots de Twitter , cuentas falsas copiadas de usuarios reales que comparten automáticamente el contenido de un cliente para aumentar su popularidad por un precio. Estos bots también se utilizan en las redes para difundir la desinformación "noticias falsas" que pretende influir y amplificar las opiniones de los votantes. Twitter finalmente encontró decenas de miles de cuentas automatizadas activas vinculadas a Rusia en los meses anteriores a las elecciones de 2016, colectivamente responsables de cientos de millones de tweets.

Se implementan bots similares en Facebook para difundir artículos o imágenes de noticias falsas con afirmaciones ampulosas.

Facebook estima que las noticias falsas difundidas por los bots respaldados por Rusia desde enero de 2015 hasta agosto de 2017 llegaron a potencialmente la mitad de los 250 millones de estadounidenses que son elegibles para votar. Las tecnologías de inteligencia artificial recientes toman la suplantación y la tergiversación intencional aún más. Hace tiempo que estamos familiarizados con las imágenes adulteradas y la magia de Photoshop, pero los avances en el aprendizaje automático y el procesamiento de imágenes ahora permiten la creación de videos falsos increíblemente realistas. Los investigadores demostraron dramáticamente esta nueva capacidad con un video generado por AI del presidente Barack Obama hablando frases que anteriormente solo eran clips de audio.

Obama

Luego vinieron los "deepfakes", videos generados por AI de expresiones faciales completamente nuevas de una persona objetivo creada al unir dos caras de una manera extrañamente convincente. Esta tecnología de intercambio de caras ya es económica y accesible lo suficiente como para que haya comenzado a aparecer en la pornografía, con varias celebridades de alto perfil agregadas a videos comprometedores sin ningún recurso legal . Un video viral reciente de Obama emitiendo una advertencia sobre deepfakes era, en sí mismo, falso .

Lo que nos lleva de vuelta al Asistente de Google aparentemente inofensivo. Cuando la IA se utiliza para hacerse pasar por personas reales, puede ocurrir un daño real.

En una escala más personal, la IA maliciosa que se hace pasar por instituciones o amigos de confianza podría estafar a personas inconscientes o vulnerables con su dinero o su información personal. Creer que su Asistente de Google no puede ser pirateado o manipulado es ser peligrosamente ingenuo.

Toby Walsh

Mi llamado a etiquetar AI se hace eco de una llamada anterior del profesor y principal investigador de IA, Toby Walsh , y un conjunto más amplio de ideas sobre la regulación de la IA . No es una coincidencia que muchas de las personas que piden una regulación son también las personas que ayudan a desarrollar esta tecnología. Porque, ¿quién mejor para comprender los riesgos que aquellos de nosotros que trabajamos arduamente para maximizar las recompensas de AI?

AI está evolucionando rápidamente, y nuestras reglas, convenciones y normas deben mantenerse al día. Escuchar Google Duplex es escuchar el sonido de una caja de Pandora que se abre rápidamente. Es un canario en la mina de carbón proverbial que nos advierte que en el futuro, los actores privados, corporativos y gubernamentales pueden y seguramente utilizarán la inteligencia artificial para fines nefastos. Tenemos etiquetas obligatorias para alimentos genéticamente modificados OGM, pero todavía no tenemos un etiquetado obligatorio para las voces, imágenes y videos generados por AI. Cambiemos eso antes de que sea demasiado tarde.

¡No te pierdas nuestra pagina de Facebook!!