¿Cómo se puede impedir que la inteligencia artificial pueda hacer cualquier cosa?

La inteligencia artificial es capaz de producir todo tipo de imágenes, incluidos textos y vídeos. ¿Qué se puede hacer para determinar si el creador de una creación es un ser humano? La cuestión no es quién ha creado el vídeo o la imagen, sino si representa situaciones de la vida real o si es un algoritmo el que está detrás de todo.

Por ejemplo, es crucial establecer la autenticidad de una imagen que, si se falsifica artificialmente, podría utilizarse como herramienta de desinformación. La trazabilidad es importante para una imagen o una película. Para detectar falsificaciones profundas y hipertrucaje.

¿Una marca de agua para designar las creaciones generadas por una IA?

Los “errores juveniles” en tecnología ya no existen. No podemos confiar en personajes con un diseño de seis dedos o humanoides digitales que no pudieron tener piernas realistas.

Las producciones de hoy son más creíbles. En octubre de 2024, los equipos de Google DeepMind publicaron un artículo en la revista Scientific Journal Naturaleza , proponiendo la solución SynthID , (Nueva ventana).

Sería posible entonces incorporar una marca invisible para el ojo humano en todas las producciones derivadas de un modelo de inteligencia artificial. Texto, animaciones o imágenes. Es posible encontrar este tatuaje digital si existen dudas sobre su origen.

Un marcador que sigue siendo eludible

Siempre habrá técnicas para eliminar o neutralizar los dispositivos antirrobo que se colocan en la ropa en las tiendas. Al analizar un texto, por ejemplo, debe resistir cambios deliberados, como la sustitución de palabras, paráfrasis o traducciones. Las pruebas muestran que los textos más largos y creativos funcionan mejor. No serían tan efectivos si el tema se presentara de una manera extremadamente objetiva o sintética.

Está claro que no debemos confiar únicamente en la tecnología para identificar contenidos problemáticos. Es nuestra responsabilidad ser críticos con los vídeos, imágenes o textos que vemos. En particular, si las producciones tienen una carga emocional o política. Para apreciar la realidad y la relevancia de estas producciones, no debemos renunciar a nuestra inteligencia humana.

Medidas de protección que deben incorporarse desde la fase de diseño de los modelos de inteligencia artificial

La consideración de seguridad original se aplica a cualquier violación que tenga como objetivo los modelos de lenguaje de gran tamaño. Se trata de mecanismos de aprendizaje automático que pueden comprender consultas y generar contenido. En octubre de 2024, el Laboratoire d'Innovation Numérique (LINC) y la Commission Nationales Informatique et Libertes (CNIL) publicaron dos informes en los que se describen algunos de los principales riesgos que existen en este ámbito.

También existe la posibilidad de regurgitación. Si se interroga a una IA, esta proporcionará información personal de sesiones de entrenamiento anteriores. También se le podría haber pedido a la IA que creara un mensaje invitando a los usuarios a compartir información confidencial. Es importante asegurarse de que los conjuntos de datos estén anonimizados antes de que puedan usarse para el entrenamiento de la IA.

También es importante poder predecir reacciones tóxicas. La IA puede utilizarse para crear contenido violento o de odio o para desarrollar programas informáticos maliciosos.

Instaurar una cultura de seguridad

Las principales recomendaciones de seguridad se presentan en un documento (Nueva ventana),establecido por la Agencia Nacional de Seguridad de los Sistemas de Información , (Nueva ventana), antes del verano de 2024.

Esto nos recuerda que es importante documentar todos los procesos en el desarrollo de modelos de inteligencia artificial, desde la calidad de la información hasta la identificación de las personas autorizadas a realizar cambios en las bibliotecas de datos, las reglas algorítmicas y el almacenamiento de las máquinas digitales, especialmente en la nube.

Es importante que no sólo los técnicos, sino también el público en general, que cada vez más utilizará estas herramientas de IA, conozcan estos principios. La IA desempeñará un papel cada vez más importante tanto en nuestra vida profesional como personal.

Integración de ChatGPT para procesos automatizados