sábado, 7 de enero de 2017

Un cuento moderno: El dilema moral del uso de la computación cognitiva


Por: Ronald Vargas, ACED, ODE

Los riegos que la sociedad debe correr para obtener el avance tecnológico

Un juez sorprendido intenta comprender - hasta donde su entendimiento le permite - como un sistema computacional, incapaz de pensar y de tomar decisiones, haya provocado que una persona cometa suicidio – según la declaración de sus familiares - lanzándose del piso número cuarenta, en donde se encontraba su oficina de trabajo.

Era incompresible e inaceptable para sus familiares, que Ricardo un hombre de cincuenta y tantos, exitoso en su vida profesional y familiar, amante de los deportes y sin prácticamente vicios, tomará la decisión de acabar con su vida.

También era incomprensible para la compañía “X” dedicada al campo de la salud, haber sido demandada y que el futuro se viera incierto, a pesar el esfuerzo que durante más de veinte años se habían forjado, brindando servicios de muy alta calidad y con tecnología de punta.

Eran muchas las preguntas sin respuesta que los altos directivos se planteaban y replanteaban, buscando una y otra vez, el detalle que se les había escapado.

Años atrás, siguiendo su visión de negocio, habían establecido la necesidad de brindar nuevos servicios a sus clientes, para lo cual, contrataron una empresa pujante en el campo del uso de la computación cognitiva ( computación del conocimiento ), para llevar a cabo el desarrollo de una solución, que permitiera servir de soporte y diagnóstico en el tratamiento del stress y la enfermedad del siglo XXI: la depresión. Esta solución sería brindada a altos directivos de empresas, personas por lo general, con agendas llenas y no muy dadas de visitar al médico.

La empresa desarrolladora, llevo a cabo el proyecto con personal experto entrenando el sistema cognitivo y después de muchas horas de trabajo, logró obtener un resultado realmente sorprendente. La compañía había contrato los servicios de notables profesionales en el campo de la salud, algunos de ellos autores de libros y expositores habituales en congresos de medicina a nivel local e internacional. No habían escatimado gastos, tenían claro, que sus clientes serían de lo más selecto de la sociedad y del área de negocios. No se podían cometer errores.

Se tomaron todas las medidas de control de calidad y se llevaron a cabo miles de horas de pruebas funcionales. Después de muchos meses de trabajo, lo habían logrado. Habían creado una solución capaz de interactuar con el ser humano. El holograma con el cuál interactuaban, tomaba la imagen, sexo, voz y gestos que el cliente exigía. Sabía su vida privada, era capaz de recordar aquellos momentos de gloria y de tristeza que la persona llevaba a cuestas. Conocía sus miedos y debilidades, era el médico perfecto, pues lo podía llamar en el momento que lo necesitara, sin moverse de su oficina y bajo el más estricto ambiente de confidencialidad.

Qué podía haber fallado. ?

Lo que se habló en aquellas sesiones, nadie lo pudo saber. El contrato firmado previamente entre la compañía y su cliente, no permitía que la información almacenada, los perfiles creados y los sentimientos que a flor de piel habían brotado, fueran hechos públicos. El Juez, no podía ir sobre la voluntad de la víctima, aun cuando esta fuera fundamental para aclarar y determinar los hechos ocurridos.

El sistema había sido entrenado para decir siempre la verdad. La verdad no puede ser fingida por un sistema computacional. Sus decisiones son basadas en hechos concretos, en patrones definidos, en modelos binarios de tomas de decisiones. No hay inteligencia en sí dentro de ellos. Pueden con exactitud increíble atribuirse características humanas, pero no lo son.

El ser humano, en su capacidad de libre arbitrio, puede elegir entre el bien y el mal. Entre hacer y dejar hacer. Un sistema autónomo, cognitivo, no puede hacer esto. Ha sido entrenado para dar respuestas, según el nivel de conocimiento aportado. Para el sistema cognitivo, la compasión y el agape, no son posibles. 

Siempre dirá la verdad. La verdad que ha aprendido, por más dolorosa que sea. No miente.

Esto lo entendió el juez, que sin más por comprender y aportar, determinó que la demanda no tenía lugar; aun cuando su mente navegaba en un mar de dudas y tenía más preguntas que respuestas, con el pasar del tiempo.

No hay comentarios:

Publicar un comentario

Te agradezco tus comentarios. Te esperamos de vuelta.