La ética de las máquinas depende de los humanos

Autor: Sascha Hannig

La pandemia ha remecido nuestra forma de vida, la percepción que tenemos sobre la tecnología que nos rodea y sobre el futuro. Para muchos, este último no se ve auspicioso. Los documentales y la ficción al respecto nos comunican que el progreso y la globalización son (y serán) en parte culpables de los problemas sociales, ambientales y culturales que enfrentamos. Ya sea la supervigilancia de los estados autoritarios, la contaminación, los avances en armas autómatas o la manipulación en redes sociales. Es una preocupación con argumentos y ejemplos, ya que en el pasado hemos visto malos o negligentes usos de la tecnología. Sin embargo, esta forma de pensar tiene un problema: pone la responsabilidad ética y social de la tecnología en la creación, y no en las personas que la idean o utilizan, incluyéndonos a nosotros mismos. En palabras simples, no es la máquina la que se vuelve malvada, son los corazones humanos los que la usan con fines cuestionables.

Como novelista con trabajos "futuristas" a veces me preguntan: "¿cuándo nos va a destruir la tecnología?", o "¿cuándo se acaba el mundo?". Quizá esperan una respuesta fatalista y determinante, pero la ciencia ficción no es una disciplina premonitoria, ni pretende explicar cómo funciona una tecnología que aún no existe. En cambio, la ciencia ficción nos pone en contacto con la ética y responsabilidad tecnológica. Es decir, nos plantea cómo interactúa la humanidad cuando coexiste con herramientas que les permiten amplificar tanto sus características altruistas, (por ejemplo, la asistencia a personas con discapacidad), como los vicios, desde el abuso de poder hasta la polarización o la imposición sobre otros.

De hecho, el uso de la tecnología ha mejorado drásticamente la calidad de vida de los humanos. Hablar de la medicina y cómo nos ha liberado de enfermedades como la viruela o la polio parece "obvio", pero son una forma en que el progreso ha contribuido a que quizás vivamos en la mejor de las eras. Otros productos del progreso que nos rodean, como el refrigerador, el agua potable, o incluso el alcantarillado, son un poco más sutiles, pero representan un avance sin precedentes en nuestra forma de vivir.

Hans Rosling, el médico y autor de "Factfullness", decía que uno podía ver cómo las naciones progresaban midiendo la mortalidad infantil, o cuántos niños fallecen antes de cumplir los cinco años. En Chile esta cifra cayó de 3 muertes por cada 10 niños a principios del siglo XX a 8 de cada mil nacimientos a fines del mismo siglo. Esto se repite en todo el mundo y nos habla de cómo, en general, la modernidad y la tecnología han contribuido incluso a nuestra relación con la vida y la muerte. Es cosa de comparar la última pandemia (1917) con las discusiones actuales por el coronavirus de 2020, un evento disruptivo.

Es natural que los humanos teman o culpen a aquellas cosas que les parecen ajenas o nuevas. El miedo a lo desconocido es una de las fobias más primitivas, y a esto se le suman dos elementos que Rosling llamaba "el instituto de la negatividad" y la "tendencia a responsabilizar" a factores externos por problemas que nos rodean. En simple, es fácil decir que algo, como la energía nuclear es malo, porque (1) no lo conocemos y (2) ha sido utilizado de manera negligente. Lo mismo ocurre con cosas mucho más cercanas como las redes sociales, a las que se acusa de incluso, atentar contra ra la democracia. En este último caso, hay quienes prefieren echarle la culpa a los algoritmos y a los otros usuarios que a su propio criterio para evitar caer en polarización o en la adicción a las plataformas.

Con las tecnologías que se están desarrollando, especialmente con la cuarta revolución industrial (que viene arribando a Chile), habrá una serie de debates importantes sobre el uso que les demos a estas nuevas herramientas. Por ejemplo, las prótesis para habilitar a personas con discapacidades se pueden utilizar para maximizar o superar las capacidades humanas, la modificación genética que puede lograr el nacimiento de bebés inmunes a ciertas enfermedades, puede también crearse para "hijos a la medida", y la digitalización puede tanto ayudarnos (como ocurrió en tiempos del covid-19) como aislarnos o convertirnos en avatares de "datos" permanentemente vigilados por los gobiernos. Otras discusiones, como el cambio climático y nuestra responsabilidad en éste, merecen su propio artículo.

No siempre es fácil determinar qué es ético y qué no lo es, se trata de aquellos debates a veces determinados por el contexto, como el aborto, o por la facción afectada, como en proyectos industriales o de infraestructura local. Sin embargo, el primer paso y algo que todos podemos hacer desde hoy, es comenzar a cuestionar nuestra responsabilidad en el mundo que nos rodea. Preguntarnos cómo podemos utilizar las herramientas del progreso y la modernidad para hacer de nuestro entorno un mejor lugar, y cómo minimizar aquellas consecuencias "negativas" que pueden surgir.

Parrafraseando al sabio tío de Spiderman, con el poder que nos entregan estas nuevas tecnologías, viene una gran responsabilidad.

.

.