No se asuste pero tampoco lo tome a broma: los robots asesinos están más cerca de lo que muchos puedan creer. Y es un asunto tan serio como para que las Naciones Unidas haya celebrado esta semana una cumbre en Ginebra a la que han asistido expertos en robótica de más de 50 países y numerosas OGN con el fin de avanzar en la prohibición del desarrollo de los sistemas de armas autónomos letales, es decir, los llamados “killer robots”.
Los LAWS, como son conocidos por su acrónimo en inglés, son el “paso más allá de los drones existentes”, es decir, aquellas máquinas que “permitirían seleccionar y atacar objetivos sin un control humano significativo”. Así lo explica la organización Human Right Watch, que ha lanzado un informe junto a la Clínica Internacional de Derechos Humanos de la Facultad de Derecho de Harvard, y en el que se alerta sobre los “importantes obstáculos para la asignación de responsabilidad personal por las acciones de las armas completamente autónomas tanto bajo el derecho civil como el penal”.
Imagine este escenario: un ataque en una guerra donde se utilizan vehículos, armas, drones… que son capaces de tomar decisiones de manera autónoma y, por tanto, de determinar un objetivo para atacar. Sin que intervenga una mente humana. ¿Es ético? ¿Es legal? ¿Quién responde por las acciones? ¿Y por los errores? Reuters
Un ingeniero ajusta el robot "El increíble hombre biónico" en el Museo Nacional del Aire y el Espacio Smithsonian de Washington.
Son muchas las dudas en el ámbito legislativo y filosófico que existen y por eso este grupo de expertos están reunidos bajo la égida de Naciones Unidas para buscar la manera de limitar o prohibir que se sigan desarrollando este tipo de sistemas que, “aunque no existan todavía, la rápida evolución de la tecnología en esa dirección ha llamado la atención internacional y causado preocupación”, como recoge Human Right Watch en su página.
“El vacío en la rendición de cuentas significa que no hay disuasión para futuros delitos, ni reparación para las víctimas, ni ninguna condenación social del responsable”, sostiene Bonnie Docherty, investigadora principal de la división de Armas de HRW y principal responsable del informe.
Para esta profesora de la Clínica de la Facultad de Derecho de Harvard, “un arma totalmente autónoma podría cometer actos que ascenderían al nivel de crímenes de guerra si fueran llevados a cabo por una persona”.
“No hay implicaciones legales en este momento. Si una máquina decide matar a una persona hoy, yo no puedo juzgar a la máquina, no hay ningún instrumento legal”, explica Camilo Serna, de la Campaña Colombiana contra minas, que ha atendido la conferencia en Ginebra.
Serna recuerda que este escenario “de ciencia ficción” no ha llegado, pero advierte de que ya “hay varios países que están adelantando trabajos para tener esta tecnología”, y no siempre de la manera más transparente. Es sabido que Estados Unidos está desarrollando este tipo de robots pero no se conoce exactamente en qué punto de las investigaciones se encuentra.
Tal vez por ello no sorprende que sea precisamente este país uno de los que mayor reticencia –si no oposición- está mostrando a cualquier iniciativa que busque la regularización o la prohibición de este tipo de material. Junto a Washington, aparecen también Nueva Delhi y Londres, como los más reacios a avanzar por la senda de las restricciones.
Existen voces que efectivamente se preguntan por qué prohibir una tecnología incluso antes de que se haya implementado. Es el caso de Erik Schchter, un especialista en temas de defensa, y quien en un artículo en The Wall Street Journal, criticaba iniciativas como la que se ha celebrado en Suiza por "prematuras" y apostaba por "probar los límites de esta tecnología primero para ver qué puede y qué no puede ofrecer".
En el lado contrario a Estados Unidos, se han situado Francia y algunos países latinoamericanos (Cuba, Ecuador y Colombia, por ejemplo) que están luchando por alcanzar una legislación que dé solución a esta nueva generación de sistemas autónomos.
A favor de la robótica
El activista colombiano recuerda que la presión que están ejerciendo se circunscribe solamente a este tipo de tecnología: “La campaña no es contra la robótica ni el desarrollo de sistema autónomos que tengan una función diferente a matar. Nos parece buenísimo darle toda la funcionalidad a los robots para que hagan otro tipo de cosas. Pero el objetivo del robot no puede ser matar a la persona”.
La conferencia, que ha terminado este viernes, “ha conseguido que esta realidad salga de la ciencia ficción, ya los estados están cuestionándose sobre esta historia que parecía sacada de películas”, explica este activista colombiano, que muestra su optimismo al sostener que “ya hay un consenso de querer buscar un instrumento que prohíba o regule este tipo de tecnología” de modo que “hay una luz verde en el futuro mediano en que haya una regulación o un prohibición”.
Aún queda un gran camino por avanzar, pero la próxima parada para todos estos grupos que buscan el control de los “robots asesinos” tienen un nuevo encuentro en la misma ciudad –Ginebra- en el mes de noviembre, para entregar el reporte con lo que se ha logrado en la reunión que acaba de clausurarse. La meta es 2016, cuando se celebrará la conferencia de revisión en la que se aspira a que exista una decisión sobre este tema.