Noticias

Un nuevo programa de entrenamiento de la IA ayuda a los robots a ser dueños de su ignorancia

septiembre 13, 2019
Patricia

author:

Un nuevo programa de entrenamiento de la IA ayuda a los robots a ser dueños de su ignorancia

Los programas de IA que ejecutan robots, coches autopropulsados y otras máquinas autónomas a menudo se entrenan en entornos simulados antes de debutar en el mundo real (SN: 12/8/18, p. 14). Pero las situaciones que una IA no encuentra en la realidad virtual pueden convertirse en puntos ciegos en la toma de decisiones en la vida real. Por ejemplo, un robot de reparto entrenado en una ciudad virtual sin vehículos de emergencia puede no saber que debe hacer una pausa antes de entrar en un paso de peatones si oye sirenas.

Para crear máquinas que pecan de cautelosas, el informático Ramya Ramakrishnan del MIT y sus colegas desarrollaron un programa de formación posterior a la simulación en el que un demostrador humano ayuda a la IA a identificar los vacíos en su educación. «Esto permite a la[IA] actuar con seguridad en el mundo real», dice Ramakrishnan, cuyo trabajo se presenta el 31 de enero en la Conferencia de la AAAI sobre Inteligencia Artificial. Los ingenieros también podrían utilizar la información sobre los puntos ciegos de la IA para diseñar mejores simulaciones en el futuro.

Durante su período de prueba, la IA toma nota de los factores ambientales que influyen en las acciones del ser humano y que no reconoce en su simulación. Cuando el humano hace algo que la IA no espera, como dudar en entrar en un cruce peatonal a pesar de tener el derecho de paso, la IA explora sus alrededores en busca de elementos previamente desconocidos, como sirenas. Si la IA detecta alguna de estas características, asume que el humano está siguiendo algún protocolo de seguridad que no aprendió en el mundo virtual y que debe someterse al juicio del humano en este tipo de situaciones.

Ramakrishnan y sus colegas han probado esta configuración entrenando primero a los programas de IA en simulaciones simplistas y luego dejándolos aprender sus puntos ciegos de los personajes humanos en mundos más realistas, pero aún virtuales. Los investigadores ahora necesitan probar el sistema en el mundo real.

Leave a comment

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *