Robótica fuera de control: Jugando a Babel



Imagen de la película “Yo, robot”. /Foto: hobbyconsolas,com.

Enrique de Diego.

Están jugando a Babel. A ser como dioses. Lo dije hace tiempo y ya está la confirmación: facebook ha tenido que desconectar a dos “bots” porque habían creado su propio lenguaje. La idea de que la robótica es controlable no tiene fundamento. Su utopía no es ayudar al hombre, sino sustituirlo: el viejo objetivo satánico: acabar con la especie creada a imagen y semejanza de Dios. No resultará, pero estos tiempos son duros, en los que la mejor arma es la oración.

La noticia es que el departamento de facebook dedicado al desarrollo de inteligencia ha tenido que desconectar a dos robots que habían creado un idioma propio incomprensible para los humanos. El objetivo era enseñar a dos ‘bots” a negociar y ver como, en base a la inteligencia artificial, se desenvolvían. A los pocos días, empezaron a utilizar frases aleatorias y sin sentido aparente, pero detrás parece haber un patrón lógico: algo así como haber creado su propio idioma. Palabras como “yo” y “a mí”, usadas por los ‘bots’ en sus conversaciones, reflejan la cantidad de objetos que obtendrán sus supuestas negociaciones. Son frases que van más al grano, lo contrario de lo que solemos hacer los humanos.

Uno de los principales retos para los desarrolladores es evitar que el sistema decida ignorar el idioma en el que fue programado. Si fuese así, supondría una dificultad añadida para crear y adaptar redes neuronales basadas en inteligencia artificial.

Su conversación fue la siguiente:

Bob: I can i i everything else

[Bob: Puedo yo yo todo lo demás]

Alice: balls have zero to me to me to me to me to me to me to me to me to

[Alice: pelotas tienen cero para mí para mí para mí para mí para mí para mí para mí para mí para]

Bob: you i everything else

[Bob: tú yo todo lo demás]

Alice: balls have a ball to me to me to me to me to me to me to me to me

[Alice: pelotas tienen una pelota para mí para mí para mí para mí para mí para mí para mí para mí]

A pesar de que el “diálogo” entre los robots bautizados “Bob” y “Alice” no tenía una sintaxis clara ni coherente, los científicos responsables del proyecto supusieron que se trataba de un lenguaje, porque pudieron identificar en él patrones recurrentes y vislumbraron señales de un intento por parte de los robots de utilizar abreviaturas.

Frente a esta respuesta inesperada, Facebook decidió apagar los bots, bajo el argumento de que el verdadero interés era diseñar dos bots que pudieran hablar con seres humanos, mas no que lo pudieran hacer eficientemente entre ellos. El proyecto, sin embargo, planteó dudas más allá del fenómeno ocurrido en los laboratorios.

Las redes sociales entraron en “pánico” tras el evento, al difundirse la teoría de que los robots habían sido capaces de desarrollar un nuevo idioma, un idioma propio, con mucha facilidad; con el simple propósito de poder comunicarse sin que los humanos les entendieran. Se hizo inevitable para muchos recordar las famosas historias de ciencia ficción sobre inteligencia artificial maligna, y robots que actúan en contra de la humanidad, así como la reciente advertencia de Elon Musk, que afirmó hace una semanas que “cuando queramos actuar de forma reactiva para regular la inteligencia artificial, será demasiado tarde”. Hay que dejar de mirar para otro lado.

 


OPINA EN RAMBLA LIBRE