¨La singularidad
es el momento en que una maquina o una red de máquinas ,se vuelve consciente,
en ese instante ,esta suele examinar con atención - a sus dueños – y decide que
no le servimos ,por lo que procede a erradicarnos, .esclavizarnos o simplemente
hacernos desgraciados . El miedo ancestral ante
este tipo de creaciones es ejemplificado en la mitología griega con
Pandora y… Las computadoras hoy hablan entre
sí …¨.
En algún momento cursando medicina me encontré con los
algoritmos , su uso y definición básica.
En la década del 90 con los distintos Cursos de conducción del Enseñanza-aprendizaje
,Evaluación , Formador de formadores ,una oportunidad que nos ofreció a docentes, mi amigo Mili Bluvstein cuando era
Decano de Medicina, comenzamos a profundizar acerca de los cambios, su
importancia , sin imaginar lo que vendría dentro de pocos años. De aquellos
gráficos elementales y multiuso , que no recuerdo se los aplicara cotidianamente, la mayoría solo teníamos
una visión utilitaria de superficie.
La idea de algoritmo no fue "inventada" de una sola vez, sino
que se fue desarrollando a lo largo del tiempo, principalmente a partir
Muhammad ibn Musa al-Jwarizmi, matemático persa del siglo IX, su nombre es el
origen de la palabra "algoritmo".
En la formalización moderna en el
siglo XX, Alan Turing, definió el concepto de máquina de Turing como modelo
abstracto de un algoritmo. La era digital les otorgo a los algoritmos una dimensión que nos
permite ir mucho más allá de una receta de una cocina y obliga a pensar ,asumir una limitante ética. Y.N.Harari
nos dice: ¨Los organismos son algoritmos ,puede decirse que el algoritmo es
el concepto más importante de nuestro mundo¨. Es una reducción demasiado fuerte.
Cuando niño uno de los
cuentos que me leyó mi madre fue El nuevo Traje del Emperador , la moraleja ;la
verdad radica en los niños…La Nueva Mente del Emperador" de Roger Penrose Nobel de física sigue claramente una línea metafórica heredera
del cuento de Andersen; dice que hay
aspectos no computables o no algorítmicos en la mente humana. El título no es
casual: Penrose lo elige deliberadamente para sugerir que las
proclamaciones sobre la inteligencia
artificial fuerte, el computacionalismo total o el reduccionismo mecanicista de
la mente humana podrían ser tan vacías como el nuevo traje del emperador.
Penrose hace de "niño" y dice: “¡La mente no es eso!” Los qualia según Penrose serían
parte de esta dimensión no computable de la mente, profundamente subjetiva.
Pandora
El
avance científico de las últimas décadas nos permitió visualizar un poco acerca
de profundidad de los algoritmos y tal
vez solo queda aquello que encontró la
curiosa Pandora, la esperanza, ella con la IA comparten el problema de lo irreversible: una vez liberada cierta
capacidad tecnológica o simbólica, no hay marcha atrás. ¿El respeto de los límites? . Sintéticamente
el progreso se realizó en tres pasos. El primero fue pasar de esos ¨conocidos¨ algoritmos
sencillos, a los que son capaces de adaptar sus objetivos en función de los resultados
de su actividad, ¨reprogramándose¨. El segundo fue la sustitución
del hardware informático estándar por exóticas redes neuronales. El tercero hasta hoy es que las redes neuronales de algoritmos
son capaces de
aprendizaje por refuerzo.
Con el ¨aprendizaje
por refuerzo¨ los algoritmos evalúan su funcionamiento y mejoran rápidamente . El cómo lo hacen es
opaco , me recuerda a Pedro mi guía de pesca, cuando al tratar de arrancar la
lancha y no se podía ,me dijo es la caja negra, no tiene arreglo. Hoy los
algoritmos tienen la capacidad de percibir y
actuar autónomamente, maximizado probabilidades de ¨éxito¨, con un objetivo o serie de objetivos. ¿Propios? " .Si así fuera esto se
relaciona directamente con la noción de agencia, intencionalidad y,
eventualmente, conciencia. ¿Y?
Semejanzas entre el Dr. Frankenstein de Mary Shelley, y la
IA. Frankenstein se vuelve contra su creador , experimenta emociones, abandono
,soledad y busca su lugar en el mundo. La IA ¨podría¨ desarrollar conciencia y, esto le daría una dimensión diferente
esperemos que no. Pero la ficción que
siempre está, me llevo a Trascender una película con J Deep. En la película
sabiendo que se moría le pasa todo y todo es todo a una computadora cuántica. La
moratoria pedida por notables por ahora no es visible. Ya hemos hecho un ¨pacto
fáustico¨, a sabiendas o no, implica que al conectarnos accedemos a la
inmensa cantidad de información, servicios, entretenimientos y conexiones de la
red, y a cambio renunciamos a nuestra privacidad, al control sobre datos
personales, con costos no evidentes, pero con impacto significativo
en nuestra vida.
Adenda: La idea de una singularidad
tecnológica, es el momento en que una máquina —o una red de máquinas— sea consciente ¿Qué verá? ¿Qué decidirá? Quizás
llegue a la conclusión de que somos un estorbo, una amenaza, o simplemente
irrelevantes. Me hace pensar en ¨la conciencia inocente¨ de los perros que
sacan a pasear a sus dueños y, estos creen
que los pasean. Los griegos lo
entendieron bien: Pandora abre la caja, o el ánfora, liberando males
irreversibles en el mundo. Solo la esperanza permanece en el fondo. Quizás hoy ya
se abrió la caja digital. Y la esperanza, una vez más, es lo
último que nos queda y la mente tal vez tenga algo que no sea computable.
No hay comentarios:
Publicar un comentario