Tecnologías

Tecnologías

Construyendo Asociaciones de Confianza Humano-Máquina

Sistemas autónomos para evaluar la propia competencia y comunicarla a sus compañeros de equipo.

Un ingrediente clave en los equipos eficaces, ya sean atléticos, empresariales o militares, es la confianza, que se basa en parte, en la comprensión mutua de la competencia de los miembros del equipo para desempeñar las funciones asignadas. Cuando se trata de formar equipos compuestos y efectivos de humanos y sistemas autónomos, los humanos necesitan tener una visión oportuna y precisa de las habilidades, experiencia y fiabilidad de sus socios-máquina para confiar en ellos en entornos dinámicos. En la actualidad, los sistemas autónomos no pueden proporcionar retroalimentación en tiempo real cuando las condiciones cambiantes, como el clima o la iluminación, hacen que su capacidad fluctúe. La falta de conciencia de las máquinas sobre si mismas y su incapacidad para comunicarla a sus socios humanos reduce la confianza y socava la eficacia del equipo.

Para ayudar a transformar las máquinas de herramientas simples en socios de confianza, DARPA ha anunciado el programa Competency-Aware Machine Learning (CAML). CAML tiene como objetivo desarrollar sistemas de aprendizaje automático que evalúan continuamente su propio rendimiento en situaciones dinámicas y críticas en cuanto al tiempo y que comuniquen esa información a los miembros del equipo humano en un formato de fácil comprensión.

“Si la máquina puede decir: “Me va bien en estas condiciones, pero no tengo mucha experiencia en estas otras”, permitiría un mejor trabajo en equipo hombre-máquina”, dijo Jiangying Zhou, gerente de programa en la Oficina de Ciencias de Defensa de DARPA. “La pareja puede entonces tomar una decisión más informada.”

Esa dinámica apoyaría un efecto multiplicador de la fuerza, ya que el ser humano conocería las capacidades de sus socios de máquina en todo momento y podría emplearlos de manera eficiente y efectiva.

Por el contrario, Zhou señaló el reto que suponen los sistemas autónomos de última generación, que no pueden evaluar ni comunicar su competencia en situaciones que cambian rápidamente.

“¿Bajo qué condiciones deja que la máquina haga su trabajo? ¿Bajo qué condiciones debe usted ponerle supervisión? ¿Qué activos, o combinación de activos, son los mejores para su tarea? Este es el tipo de preguntas que los sistemas de CAML podrían responder”, dijo.

Utilizando un ejemplo simplificado de tecnología de coches autónomos, Zhou describió lo valiosa que podría ser la tecnología CAML para un piloto que intentaba decidir cuál de los dos vehículos autónomos sería más adecuado para conducir de noche bajo la lluvia. El primer vehículo puede comunicar que por la noche, bajo la lluvia, sabe si está viendo a una persona o a un objeto inanimado con una precisión del 90 por ciento, y que ha completado la tarea más de 1.000 veces. El segundo vehículo puede comunicar que puede distinguir entre una persona y un objeto inanimado en la noche bajo la lluvia con una precisión del 99 por ciento, pero que ha realizado la tarea menos de 100 veces. Equipado con esta información, el conductor puede tomar una decisión informada sobre qué vehículo utilizar.

DARPA ha programado un webcast pre-grabado CAML Proposers Day para los proponentes potenciales el 20 de febrero de 2019. Los detalles están disponibles en: https://go.usa.gov/xE9aQ.

El programa CAML busca experiencia en aprendizaje automático, inteligencia artificial, reconocimiento de patrones, representación de conocimientos y razonamiento, modelado de sistemas autónomos, interfaz hombre-máquina y computación cognitiva. Para maximizar el conjunto de conceptos de propuestas innovadoras, DARPA recomienda encarecidamente la participación de los proponentes no tradicionales, incluidas las pequeñas empresas, las instituciones académicas y de investigación, y los contratistas gubernamentales por primera vez.

DARPA anticipa la publicación de una solicitud de Anuncio de CAML Broad Agency en el sitio web de Oportunidades de Negocios Federales a mediados de febrero de 2019.

Fte. DARPA

Tags:

Compártelo en las redes sociales