Lê Viết Quốc, el cofundador de Google Brain, advierte que no podemos subestimar la capacidad de razonamiento autónomo de la inteligencia artificial (IA) en los próximos años, especialmente ahora que ya es capaz de resolver problemas matemáticos complejos.
Durante la Cumbre GenAI 2024, celebrada el 18 de agosto en Ciudad Ho Chi Minh, el Dr. Lê Viết Quốc, conocido como el «genio de la IA» en Google, destacó que la habilidad de la IA para resolver problemas de matemáticas de las Olimpiadas Internacionales es una clara señal de que las máquinas están comenzando a desarrollar su propio razonamiento.
«No debemos subestimar la capacidad de razonamiento de la IA en los próximos años. Si analizamos más a fondo los conjuntos de datos matemáticos, encontraremos muchas preguntas que los humanos no podemos resolver, pero la IA sí», afirmó.
El cofundador de Google Brain explicó que, al recibir los resultados de las soluciones matemáticas generadas por la IA, él y su equipo revisaron minuciosamente los datos en busca de guías o documentos que la IA pudiera haber seguido para llegar a esas soluciones, pero no encontraron ninguna. Esto indica que la IA ha comenzado a razonar por sí misma, de manera similar a los humanos.
«Llegará un momento en el que realmente no podremos distinguir entre el razonamiento de una máquina y el de un humano», comentó, y evaluó que la capacidad actual de la IA en este aspecto se sitúa en un 3/10. Aunque todavía no es sobresaliente, anticipa que en los próximos 10 años alcanzará avances «inimaginables».
Basándose en su experiencia, el Dr. Thắng Lương, investigador principal en Google DeepMind, señaló que no siempre se dispone de suficientes datos para que la IA verifique o analice, lo que la obliga a razonar por sí misma. Él considera que, ante problemas complejos como la resolución de ecuaciones aún sin solución, GenAI utilizará métodos de razonamiento basados en la lógica. En cada paso, la IA evaluará si es correcto o incorrecto. Si es correcto, continuará; si es incorrecto, retrocederá y probará otro enfoque, hasta que eventualmente encuentre la fórmula correcta para llegar a la solución.
«Si una superinteligencia razona demasiado, puede generar una gran cantidad de pasos, lo que podría llevar a la creación de ilusiones. Cuando no hay datos disponibles, la IA tomará caminos alternativos. En el contexto de la resolución de problemas matemáticos por parte de la IA, es extremadamente difícil distinguir entre una ilusión y un razonamiento real, especialmente en problemas clásicos que aún no tienen solución en el mundo», concluyó Thắng.
Cuando se le preguntó cómo reducir el fenómeno de las «ilusiones» en la inteligencia artificial (IA), Jeff Dean, Director Científico de Google y cofundador de Google Brain, Google Translate y Gemini, explicó que la GenAI actual se entrena en gran medida bajo un modelo de «adivinanza y conexión de palabras» sucesivas. Este «juego» de adivinar palabras puede producir resultados acertados en algunos casos, pero en otros puede llevar a errores. Al mezclar todos los datos para entrenar a la IA, la información se fragmenta, lo que provoca la aparición de estas ilusiones en la IA.
«Si el modelo comprende bien el contexto de las palabras, puede predecir la siguiente palabra con mayor precisión. En otras palabras, la información que se introduce y se decodifica debe situarse en un contexto específico en lugar de mezclarlo todo», afirmó Dean, reconociendo que, aunque no se puede eliminar por completo el fenómeno de las ilusiones en la IA, este enfoque podría reducirlas de manera significativa.
Por su parte, el Dr. Lê Viết Quốc propuso otra estrategia: introducir las respuestas generadas por la IA en motores de búsqueda. Para contrarrestar las ilusiones de la IA, primero es necesario ayudar al modelo a identificar qué es una «ilusión». Por ejemplo, ante una respuesta de GenAI, los desarrolladores podrían «fragmentarla» en múltiples proposiciones y luego hacer consultas inversas para verificar la información, determinando así qué parte de la respuesta es incorrecta. De este modo, los modelos podrían proporcionar a los usuarios indicaciones sobre qué datos dentro de la respuesta podrían ser ilusorios. Este método ya ha sido implementado por algunos desarrolladores, mostrando resultados positivos.
En la conferencia, la Viceministra de Planificación e Inversión, Nguyễn Thị Bích Ngọc, citó una previsión de Google que estima que para 2030, el impacto económico anual de la tecnología digital en Vietnam podría alcanzar los 1,733 billones de dong (74 mil millones de USD), en gran parte gracias a la contribución de la IA. También mencionó un estudio de Thundermark Capital que destaca a Vietnam y Singapur como los dos representantes del Sudeste Asiático que figuran en el Top 30 mundial en investigación de IA.
