La CNIL publica el resumen del debate público organizado sobre " los problemas éticos de los Algoritmos y la #inteligencia artificial [VIDEO] ". 3.000 personas participaron en 45 eventos, con el objetivo de dar algunas respuestas a la siguiente pregunta: "¿cómo permitirle al hombre que mantenga su mano?”. La Presidenta de la CNIL, Isabelle Falque-Pierrotin, presentó este informe en presencia del Secretario de Estado para el #Mundo Digital, Mounir Mahjoubi, y del diputado encargado por el gobierno de una misión sobre inteligencia #artificial, Cédric Villani.

Por qué este informe sobre los problemas éticos de los algoritmos

Según la Ley para una República Digital, la misión de la CNIL es "reflexionar sobre las cuestiones éticas y sociales planteadas por las nuevas tecnologías".

Surge la cuestión de los algoritmos y la Inteligencia Artificial, cuando vemos los problemas relacionados con el #software [VIDEO] APB (para Admission Post-Bac) y el papel de las redes sociales en la influencia de la opinión, especialmente durante las elecciones elecciones presidenciales. Objetivo de este informe: "construir una visión general de las cuestiones éticas [planteadas por la inteligencia artificial]".

Los problemas planteados por la inteligencia artificial

De acuerdo con la CNIL, la inteligencia artificial y la creciente importancia de los algoritmos en los servicios que utilizamos conducen a varios problemas.

1) Autonomía humana ante el desafío de la autonomía de las máquinas:

Cada vez se delegan más tareas en las #máquinas, "consideradas infalibles y neutrales”. De esta tendencia resulta una confianza ciega del hombre hacia las máquinas y una dilución de la responsabilidad (sistemas complejos y fragmentados).

2) Sesgo, discriminación y exclusión:

Esta confianza excesiva, sin embargo, oculta los defectos de #diseño que conducen a fallas de decisión. Los #algoritmos también pueden tener efectos de exclusión #perjudiciales para las personas que no cumplen estrictamente los criterios esperados.

3) Fragmentación algorítmica:

La inteligencia artificial y el procesamiento de #datos precisos permiten personalizar experiencias, productos y #servicios. Esta importante fragmentación puede afectar ciertas lógicas colectivas esenciales, como el pluralismo y la acumulación de riesgos.

4) Big Data:

Conoces el dicho "Sin datos, sin chocolate". La inteligencia artificial requiere el procesamiento de una gran cantidad de #datos para "aprender" (aprendizaje automático). Las #libertades individuales y los datos personales, sin embargo, deben estar protegidos.

5) Calidad de los datos:

Además de la cantidad de datos, la calidad de los datos seleccionados es un desafío importante para el #diseño de sistemas confiables y relevantes.

En un contexto de confianza ciega en la #máquina, el hombre no debe olvidar la importancia de su papel en la elección de los datos.

6) Identidad humana, máquinas y sistemas híbridos:

La humanidad será desafiada rápidamente por la #integración de las máquinas en la vida cotidiana. La aparición de "formas de #hibridación entre humanos y máquinas" debería acelerar el cuestionamiento sobre este tema.