Las mentiras de la IA no son alucinaciones: Roberto Bonilla -

De noviembre 2022 mes en que se liberó ChatGPT hasta esta fecha hemos leído, visto y experimentado cambios impresionantes en las diferentes aplicaciones inteligencia artificial generativa y la inteligencia artificial agéntica.

En días pasados leí un artículo en El Mundo, que menciona a un físico español Roi Naveiro, quien después de trabajar en los sistemas que controlan a los autos autónomos, recién recibió la Beca Leonardo de Investigación Científica de la fundación BBVA, para desarrollar sistemas capaces de recibir ataques y reconocer trampas. (LUAR: Learning under adversarial risk o aprendizaje bajo riesgos adversarios)

Este nuevo campo de investigación está enfocado en los diversos usos de la Inteligencia Artificial (IA).

El investigador menciona en el artículo varias frases que me parece describen de cuerpo entero tanto el tamaño del reto que tiene Noveira entre manos, como la “naturaleza” -en especial- de los agentes de IA… y al mismo tiempo revelan otros aspectos de la naturaleza humana.

La primera frase: “el sentido común es una lista interminable de cosas que programar”

Esto significa que para que un agente de inteligencia artificial tome decisiones y más si forma parte del sistema de conducción de un vehículo autónomo, debe de programarsele con un sin fin de reglas que le pemita emular al sentido común humano, al que con frecuencia se lo denominamos como “el menos común de los sentidos”, entoces esto implica que por muy “intelgente” que aparectemente sea la IA, resulta que carece de esta característica netamente humana que es el sentido común.

No me voy a extender en analizar las implicaciones, ya que todos hemos vivido circunstancias con algun colaborador, familiar o amigo en que les reprochamos su “falta de sentido común”, cuando en realidad debemos reconocer que el sentido común en realidad es diferente en cada ser humano, ¿o no?

Por otra parte el mismo investigador afirma que para una IA “mentir y hacer trampas es facilísimo, ya que un algoritmo obedece tan bien nuestras órdenes que acaba llevándose a alguien por delante”, ¡caray!, esta afirmación es para dejarnos congelados, me recuerda aquella frase de mi infancia en la que decíamos a nuestros compañeros: “voy derecho no me quito y si me pegas me desquito”

Me resulta paradójico, que una de las virtudes de la IA como el poder trabajar incansablemente 24×7 siguiendo instrucciones y órdenes al pie de la letra puedea resultar en una serie de múltiples efectos colaterales no éticos, que son difíciles de anticipar, ya que tendríamos que programar los agentes para que a muy alta velocidad tomen en cuenta las inumerables reglas que menciona Roi Naveiro, para que tomen las decisiones más apegadas al objetivo para el cual se les diseñó, sino que además esas decisiones tengan una sanas dósis de sentido común, respetando principios éticos fundamentales.

Una frase adicional, que nos debiera poner seriamente a pensar en sus implicaciones es la siguiente (parafraseo): “Las IA no es que mientan, simplemente hacen lo más eficiente”, ¿nos damos cuenta de qué es lo que como humanidad hemos creado?, ya que resulta claro -al menos para mí- que no siempre lo más eficente es lo mejor, o lo más rentable, o lo más productivo. ¿No estaremos “programando” a nuestros colaboradores o a nuestros hijos a hacer exactamente lo mismo?.

Estos nos lleva al mundo de las mentes INNusuales, que he mencionado en otras entregas, una mente INNusual, sabe o intuye que no siempre más es mejor. Quizá al empezar a estudiar a los agentes de la IA y sus efectos colaterales al mismo tiempo estamos develando uno de los espejos más fieles del comportamiento humano.

Y luego nos preguntamos, ¿por qué los estudiantes hacen trampa para aprobar un curso o un exámen?, ¿no será que al igual que la IA agéntica, solamente están buscando el caminos más corto, el de menos esfuerzo y por ende el “más eficiente”?

Nota: a partir de esta entrega, explicitaré el uso o no uso de la IA en mis columnas, en este caso sólo usé Gemini Pro para generar la imagen incluída al inicio. El resto del texto es de mi autoría, salvo las citas textuales del artículo de El Mundo.

Como siempre, sus comentarios son bienvenidos: roberto@novarum.mx

Referencias adicionales:

1. El investigador español que entrena a la IA para que no te mate: “La seguridad está en pañales porque no la entendemos”https://compra.elmundo.es/compras/buy/registry/offer/tG-QWvfIuFA/1#/auth?view=login

2. ¡Mexicano, se ético YA!: https://url.goldtech.mx/Dntysl

3. Modelos de negocio INNusuales y la sostenibilidad de tu empresa https://www.youtube.com/watch?v=CfYhZxrcMJA