Revista Mensaje N° 699. «Neuroderechos: Un código ético»

Durante la última década, organismos gubernamentales de todo el mundo, incluyendo algunos de Estados Unidos, China, Corea, la Unión Europea, Japón, Canadá y Australia, ente otros, han creado grandes proyectos que financian la investigación pública en neurociencia, con el objetivo de potenciar el progreso del conocimiento del cerebro humano y del tratamiento de enfermedades psiquiátricas y neurológicas. Estas iniciativas dieron lugar a neurotecnologías que tienen una capacidad sin precedentes para «leer» o detectar estados mentales mediante la interpretación de patrones de actividad neuronal, y «escribir» o modificar estados mentales mediante la modulación de la computación neuronal. Estas tecnologías, que están siendo desarrolladas cada vez más en la industria con capital privado, tienen crecientes aplicaciones clínicas y no clínicas (educacionales, laborales, de entretenimiento, militares, etc.) que no están plenamente exploradas ni reguladas por leyes nacionales o tratados internacionales. Por este motivo, el desarrollo de un marco normativo se ha convertido en una prioridad global.

El Morningside Group, un grupo interdisciplinario liderado por el neurocientífico Rafael Yuste, se formó con el objetivo de elaborar una propuesta que articule derechos específicos para la regulación de la neurotecnología, también conocidos como “neuroderechos”. Este marco introduce cinco neuroderechos: el derecho a la identidad personal, el derecho al libre albedrío, el derecho a la privacidad mental, el derecho al acceso equitativo a las tecnologías para el aumento de la capacidad cognitiva, y el derecho a la protección contra los sesgos de los algoritmos. Estos se basan en derechos humanos internacionales existentes para la protección de la dignidad humana, la libertad y la seguridad de las personas, la no discriminación, la igualdad de protección y la privacidad, y los amplían. La idea de fondo es que, en sus versiones previas, estos derechos están caracterizados en términos muy genéricos, a menudo sujetos a interpretación, y la regulación de las ramificaciones de la neurotecnología requiere mayor especificidad.

Durante los últimos meses del año 2020 fuimos testigos en Chile de la realización de una iniciativa pionera a nivel mundial: un proyecto para implementar este marco en la legislación nacional. La propuesta de la comisión Desafíos del Futuro, Ciencia, Tecnología e Innovación del Senado chileno consiste en un proyecto de reforma constitucional (Boletín 13.827-19) y un proyecto de ley sobre neuroprotección (Boletín 13.828-19). Estos dos proyectos fueron elaborados durante el año 2020 por la Comisión del Senado, y están siendo en el presente tratados por el Senado y la Cámara de Diputados. A su vez, el artículo 24 de la reciente Carta Española de Derechos Digitales representa un segundo esfuerzo regulativo pionero.

Como un siguiente paso, Rafael Yuste, junto con el abogado de derecho internacional Jared Genser, está ideando una agenda de neuroderechos para la Organización de las Naciones Unidas, sugiriendo que el Secretario General, Antonio Guterres, y la Alta Comisionada para los Derechos Humanos, Michelle Bachelet, creen una comisión internacional sobre neuroderechos que avance hacia un consenso internacional en torno a su definición.

DERECHO A LA IDENTIDAD

¿En qué consisten esos derechos? En primer lugar, el derecho a la identidad personal es la idea de que nadie puede alterar o manipular sin consentimiento los estados mentales de una persona que la constituyen como tal, que la hacen ser quien es. Se ha mostrado que procedimientos como la estimulación cerebral profunda (DBS, por las siglas en inglés), donde se estimula eléctricamente el cerebro para prevenir o modular patrones de actividad neuronal patológicos, vinculados a condiciones psiquiátricas como la depresión o el trastorno obsesivo compulsivo, han generado alteraciones en la identidad o continuidad psicológica de las personas, modificando aspectos centrales de su personalidad. Por ejemplo, el uso de DBS para inhibir los estados neuronales asociados a la depresión puede tener como efecto no deseado que una persona sea incapaz de reacciones emocionales que constituyen su identidad, como estar triste durante la pérdida de un ser querido. Este tipo de efectos no se han documentado solo en relación a la neurotecnología sino también respecto de tratamientos farmacológicos más ampliamente difundidos.

LIBRE ALBEDRÍO

En segundo lugar, la neurotecnología emergente ha generado preocupaciones vinculadas al libre albedrío. Un caso clave es una reciente generación de dispositivos de DBS, llamados DBS de bucle cerrado (closed-loop DBS), que ajusta automáticamente los niveles de estimulación, basándose en algoritmos que detectan o predicen procesos neuronales patológicos. Este dispositivo ha generado preocupaciones vinculadas a la libertad y la autonomía porque, al inhibir o modular comportamientos o estados mentales indeseables de forma automática, el dispositivo puede dejar a las personas fuera del proceso de decisión sobre cómo autorregularse psicológica y conductualmente. Otro caso relevante es el de las interfaces cerebro-computadora (BCIs), que implementan lo que se llama “control compartido” (shared-control). En estos casos, los comandos mentales (decodificados por medio de electroencefalografía) que un usuario le envía a una silla de ruedas o brazo robótico, por ejemplo, son evaluados por un algoritmo del dispositivo y pueden ser corregidos o directamente rechazados si el dispositivo “cree” que no son razonables o eficientes. Si bien la limitación del control motor del sujeto por parte de la BCI puede hacerla mucho más segura, al mismo tiempo podría poner en riesgo la autonomía y diluir el sentido de agencia, dificultando la determinación de responsabilidad respecto de nuestras acciones.

PROTECCIÓN DE LOS SESGOS

En relación a la protección de los sesgos, la preocupación es limitar los efectos nocivos que valoraciones o preconcepciones pueden tener respecto de decisiones científicas o tecnológicas. Aunque el sesgo es inherente a la mayoría de las actividades humanas, puede llevar potencialmente a excluir perspectivas alternativas, generalmente de grupos minoritarios o vulnerables. Por ejemplo, los prejuicios pueden influir en qué personas (con qué perfil socioeconómico, cultural, género etc.) se incluyen en la investigación sobre una enfermedad mental y, como resultado, en quiénes son más eficaces los tratamientos que resultan de la misma. Dar prioridad a ciertos perfiles socioeconómicos o culturales por sobre otros también puede influir en qué tipo de enfermedades se consideran más importantes para la investigación. Otro tipo de sesgo problemático está vinculado a preconcepciones relacionadas con lo que constituye una función cerebral «normal» y lo que no lo es. Ejemplos conocidos son el de la crítica, por parte de los defensores de la neurodiversidad, a investigaciones que pretenden «curar» ciertas condiciones como el autismo, y el de personas sordas que no consideran a la sordera como un déficit biológico, sino como parte de su identidad.

A su vez, mientras que las intervenciones médicas pretenden restituir la salud, la preocupación relacionada con el aumento cognitivo o moral concierne a aquellas tecnologías que mejoran el funcionamiento humano más allá de lo necesario para mantener o restablecer la salud. Esta preocupación surgió por la llegada de estimulantes farmacológicos utilizados originalmente para el tratamiento de la depresión y otras condiciones, y posteriormente empleados para mejorar el aprendizaje, la memoria y la concentración. En los últimos años, el foco de esta preocupación migró hacia opciones neurotecnológicas no invasivas y cada vez más disponibles en el mercado, como la estimulación de corriente directa (tDCS), que también pueden aumentar dichas funciones cognitivas. A su vez, los avances en inteligencia artificial e interfaces cerebro-computadora abren la posibilidad no tan lejana de una conexión directa entre el cerebro humano y el impresionante poder del aprendizaje automático de los computadores y la gran cantidad de datos disponibles a través de Internet.

DESIGUALDAD, COERCIÓN

¿Cuáles son las preocupaciones éticas vinculadas a esta dimensión? Si las neurotecnologías están desproporcionadamente al alcance de las clases socioeconómicas más altas, pueden exacerbar las desigualdades actuales. A su vez, se ha expresado una preocupación por el potencial de coerción en el uso de neurotecnologías, esto es, que los individuos se sientan obligados a adoptarlas a través de reglamentos o de presión social si su uso se generaliza en contextos laborales o educacionales. Una preocupación central es que estas neurotecnologías, en tanto no están orientadas a tratar la salud, no serían reguladas por los marcos médicos o de investigación tradicionales. Especialmente en los casos de neurotecnologías no invasivas (que no requieren cirugía o intervención médica para su uso) no se necesitaría la aprobación de agencias vinculadas a investigación o tratamiento médico, lo que supone un alto grado de libertad para la industria.

PRIVACIDAD MENTAL

Una última y central preocupación vinculada a la legislación sobre neuroderechos es la de la privacidad mental, que es básicamente la idea de que debemos tener control sobre quién accede a información acerca de nuestros procesos cerebrales y mentales, la cual se va volviendo progresivamente más disponible como resultado del acelerado desarrollo de la neurotecnología. Por dar unos ejemplos conocidos, se ha mostrado que la resonancia magnética funcional (fMRI en inglés) puede ser empleada para predecir las intenciones y decisiones de una persona, determinar sobre qué tipo de objeto está pensando, cuál es su orientación política, si está mintiendo o evaluar probabilidad de que se involucre en actividades delictivas.

Estas tecnologías tienen aplicaciones actuales y potenciales que pueden tener un impacto profundo en diversas prácticas sociales (educativas, laborales, forenses, militares, de entretenimiento, etc.). Por ejemplo, en un célebre caso reciente, una escuela primaria de China implementó el uso por parte de alumnos/as de un dispositivo portátil que permite determinar cuándo están prestando atención, decodificando patrones de actividad cerebral y reflejándolos en señales externas codificadas por colores. La idea es que el o la docente pueda intervenir en tiempo real para volver a centrar a los distraídos y también generar otras intervenciones pedagógicas para niños o niñas individuales, basadas en la cuantificación acumulativa del tiempo de concentración frente al de distracción a lo largo de semanas.

Se ha argumentado que la información mental y neuronal requiere una protección especial, mayor a la protección que tienen otros tipos de datos personales, porque está más íntimamente conectada con las personas, en tanto constituye la fuente misma de su privacidad, y es su última frontera. La privacidad, como capacidad, es lo que permite a las personas expresarse selectivamente, es decir, filtrar la información que quieren compartir y la que no. Normalmente, el filtro que lo hace posible es nuestra mente: decidimos o razonamos sobre lo que queremos compartir y utilizamos nuestros mecanismos sensomotores para comunicar o impedir la comunicación (por ejemplo, expresar u ocultar la manifestación de una emoción). Por el contrario, la lectura de mente neurotecnológica es la única en la que la información extraída no ha pasado por el control de nuestros sistemas sensomotrices y de pensamiento.

Una manera de fortalecer la protección de los datos neuronales, como si fuesen nuestra parte más íntima, es aplicarles no solo las leyes sobre protección de datos, sino también las mismas leyes que protegen la inviolabilidad de nuestro cuerpo o nuestra integridad física. Tratar a los datos neuronales como un órgano corporal o como tejido orgánico implica, por ejemplo, que es necesario el consentimiento de las personas para compartirlos (o no), y que estas solo pueden consentir a la donación de los mismos con fines altruistas, pero no a su comercialización. Chile ha implementado esta idea en el artículo 7 del proyecto de ley N° 13.828-19.

Este tipo de medidas de la propuesta legislativa de Chile garantizará que los desarrollos neurotecnológicos tengan un impacto social positivo. Pero es fundamental para el desarrollo científico y económico del país que se forme un consenso internacional en torno a los neuroderechos, el cual es el objetivo de la discusión que se dará sobre los mismos en la Organización de las Naciones Unidas. Alinear la propuesta chilena con una legislación internacional será necesario para que Chile no quede en desventaja estratégica respecto a otros países de la región en cuanto a potenciales inversionistas privados (teniendo en cuenta el aceleradísimo crecimiento del mercado neurotecnológico). A su vez, es importante tener en mente que una actualización conceptual y fortalecimiento de los derechos humanos por medio de este marco constituiría una valiosa contribución al inminente desarrollo de la nueva Constitución chilena, que podría así incorporar un código ético que tenga su raíz en los aspectos más fundamentales de las personas. MSJ

_________________________
Fuente: Artículo publicado en Revista Mensaje N° 699, junio de 2021.