miércoles, abril 19, 2023

La UNESCO "preocupada" por la Inteligencia Artificial

Así que quiere que gobiernos y empresas empiecen a afrontar su aspecto menos hablado: la ética

 

Por Gonzalo Hernández @gonzalojhm


Luego de que más de 1,000 personalidades del mundo tecnológico firmaran una carta solicitando pausar durante al menos seis meses el entrenamiento de sistemas de IA más potentes que GPT-4, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) ha pedido a los países miembros que implementen el Marco Ético Mundial para tener regulaciones en el uso de Inteligencias Artificiales.

En un comunicado, la UNESCO ha recordado a todos los países integrantes la "Recomendación sobre la ética de la Inteligencia Artificial", un documento aprobado en 2021 que es el primer marco mundial sobre el uso de la IA. Este orienta sobre cómo maximizar los beneficios de la tecnología y reducir los riesgos, presentando valores y principios, además de ofrecer recomendaciones políticas relevantes.

A la organización, señala el posicionamiento, le preocupan muchas de las cuestiones éticas de las IAs, como la discriminación, estereotipos, desigualdad de género, lucha contra la desinformación, derechos de privacidad, protección de datos personales, además de derechos humanos y medioambientales.

Según la UNESCO, hasta ahora se ha visto que la autorregulación de la industria no ha sido suficiente para evitar daños éticos, por lo que considera que la recomendación puede dar "herramientas para garantizar que los desarrollos de IA cumplan", con el estado de derecho, evitando daños y asegurando que cuando este se produzca, existan mecanismos de rendición de cuentas y de reparación.

Además, con este documento también se busca orientar las acciones de personas, grupos, comunidades, instituciones y empresa del sector privado para asegurar la incorporación de la ética a lo largo de todas las etapas del ciclo de vida de los sistemas de IA.

El documento no solo ofrece valores y principios, sino también aborda otras aplicaciones prácticas con acciones concretas a realizar, como ajustes en leyes, desarrollo de áreas de investigación para evitar riesgos en el uso de estos sistemas y hasta optimizaciones en políticas de datos.

Con esta herramienta, dice la UNESCO, se pueden determinar las competencias y habilidades requeridas por la fuerza laboral para una regulación sólida en el sector de la Inteligencia Artificial, además de que establece que que los Estados informen cada cuatro años sobre sus avances y prácticas en IA.

Otra voz más que pide regular el desarrollo de las IAs

Con este recordatorio de su Marco Ético, la UNESCO también entra a la discusión sobre la necesidad de tener diferentes regulaciones que permitan controlar y establecer pautas de las Inteligencias Artificiales.

Apenas este viernes 31 de marzo, Italia prohibió el uso de ChatGPT por recopilar de forma ilegal los datos personales de los usuarios, pero también por no justificar la recopilación y el almacenamiento de la información, ni contar con filtros para verificar la edad de los usuarios.

https://www.xataka.com.mx/robotica-e-ia/unesco-esta-preocupada-inteligencia-artificial-asi-que-quiere-que-gobiernos-empresas-empiecen-a-afrontar-su-aspecto-hablado-etica


No hay comentarios:

Publicar un comentario