jueves, abril 20, 2023

El CEO de Google afirma que no entienden por qué su inteligencia artificial aprende cosas inesperadas. Esto son las “cajas negras”

 


 

Bárbara Bécares

Tres directivos de Google han concedido una entrevista a CBS sobre su nueva inteligencia artificial Bard. Lo más sorprendente de las declaraciones del CEO de Google y Alphabet, Sundar Pichai; Sissie Hsiao, Vicepresidenta de Google; y James Manyika, Vicepresidente Senior, es que han reconocido que no entienden algunas de las capacidades de esta IA o de otras de la empresa.


Hay que recordar que Google maneja el 90% de las búsquedas en Internet, pero este dominio fue atacado el pasado febrero cuando Microsoft presentó su nuevo chatbot, integrando ChatGPT a su buscador Bing y mejorando muchísimo la experiencia. Mientras el Bard de Google ha llegado con ciertos problemas.

Sissie Hsiao, Vicepresidenta de Google, y James Manyika, Vicepresidente Senior, han dicho que “lo primero que aprendimos fue que Bard no busca respuestas en Internet como lo hace la búsqueda de Google” y que las respuestas de la inteligencia artificial de Google proceden de un programa autónomo en su mayor parte autodidacta y afirman los propios directivos que su experiencia usando esta IA “fue inquietante”.

La IA aprendió un idioma, pero no se sabe cómo

De los temas de IA de los que hablan los expertos de Google, el más misterioso se llama propiedades emergentes. Parece ser que las herramientas de inteligencia artificial de la empresa están aprendiendo habilidades que no se esperaba que tuvieran.

“No se sabe muy bien cómo ocurre esto. Por ejemplo, un programa de IA de Google se adaptó, por sí solo, después de que se le preguntara en el idioma de Bangladesh, que no estaba entrenado para conocer”, han dicho desde Google.

Un ingeniero deja Google por "copión": dice que la empresa usó información de ChatGPT sin permiso de OpenAI para Bard

Un ingeniero deja Google por "copión": dice que la empresa usó información de ChatGPT sin permiso de OpenAI para Bard

James Manyika afirma que descubrió que que con muy pocas indicaciones en bengalí, ahora esta inteligencia artificial puede traducir todo el bengalí. Así que ahora desde Google tienen que esforzarse en investigar cómo ha sido esto posible y lograr que se haga con "mil idiomas" lo mismo.

A esto, el entrevistador de CBS les ha cuestionado: “ustedes no entienden completamente cómo funciona, y sin embargo, ¿la han puesto a disposición de la sociedad?”. Pichai dice que no es algo grave y es que, alega que “tampoco creo que entendamos del todo cómo funciona la mente humana”.

Qué son las cajas negras

El líder de Alphabet habla de un término usado en la investigación tecnológica: la caja negra. El tema con el aprendizaje del bengalí de Bard entra dentro de la 'caja negra' de los ingenieros de Google, y que son sucesos en IA que son incapaces de explicar.

La inteligencia artificial de Bard está muy verde. Así que Google está pidiendo a sus trabajadores corregir sus respuestas

La inteligencia artificial de Bard está muy verde. Así que Google está pidiendo a sus trabajadores corregir sus respuestas

Según Pinchai “todos nosotros en el campo lo llamamos como una "caja negra". que es que cuando algo no se entiende completamente”. Es decir, que no se puede decir muy bien por qué hizo algo, por qué hubo un error. “Tenemos algunas ideas, y nuestra capacidad para entender esto mejora con el tiempo”.

 

https://cerebrodigital.net/las-10-preguntas-filosoficas-mas-fundamentales-para-el-ser-humano/

 

1 comentario: