En septiembre de 2024, California silenciosamente sentó un precedente. Los legisladores aprobaron la SB 1223, una enmienda a la Ley de Privacidad del Consumidor de California (CCPA) que clasifica los datos neuronales como “información personal sensible”. Por primera vez en la legislación estadounidense, las señales derivadas del cerebro, como los trazos de electroencefalografía (EEG), las exploraciones por resonancia magnética funcional (fMRI) (un tipo de imagen por resonancia magnética que mide y mapea la actividad cerebral) o la actividad de la interfaz cerebro-computadora (BCI), se tratarán como una categoría separada de otras formas de biodatos. La medida puede parecer técnica, pero señala una nueva expectativa pública: si las empresas pretenden tocar el cerebro, se les exigirá que cumplan con estándares más estrictos de gobernanza, asignación de destinos y control de usuarios.
Este es un momento umbral para la neuroética. Nos invita a ir más allá de la especulación distópica sobre las máquinas que leen la mente y, en cambio, centrarnos en lo que la neurotecnología realmente puede hacer hoy, cómo se cruza ya con una economía de datos más amplia y qué valores deberían dar forma a su futuro. El desafío no es sólo minimizar el daño, sino también tomar decisiones que aumenten el florecimiento humano, en lugar de reducirnos a trabajadores más eficientes o consumidores más predecibles.
A medida que desarrollamos una nueva generación de BCI, es importante que cumplamos con los más altos estándares éticos. Hay tres dilemas éticos clave asociados con el despliegue de nuevas generaciones de BCI: los riesgos del “neuroexcepcionalismo”, la contestabilidad de los circuitos cerrados y la conciliación de la productividad y el bienestar humano.
Los riesgos del neuroexcepcionalismo
Los implantes cocleares, la estimulación cerebral profunda y otras BCI han formado parte de la medicina desde la década de 1980. Impulsada por estas primeras victorias, un flujo constante de estudios de resonancia magnética funcional y una representación activa en el arte, la neurotecnología ha hecho un trabajo asombroso al comercializarse. El campo nos ha convencido de la visión de que BCI podría leer nuestros pensamientos internos y controlar nuestro cerebro, lo que está causando gran preocupación a muchos. Esto ha llevado al concepto de “neuroexcepcionalismo”, la idea de que los datos cerebrales representan una amenaza única a diferencia de cualquier otro tipo de información personal.
La verdad es más aleccionadora. El progreso en la investigación de BCI es gradual y está limitado por la biología, la ingeniería y la validación clínica. Por el contrario, las amenazas reales a la autonomía ya están arraigadas en ecosistemas digitales maduros. Los monitores de frecuencia cardíaca, los historiales de ubicación, las rutas de clics y las métricas de interacción ya pueden revelar e influir en el comportamiento con notable precisión a escala global. Esto fue evidente cuando Google adquirió Fitbit. En 2020, la Comisión Europea aprobó el acuerdo sólo con la condición de que Google aislara los datos de salud de Fitbit y no los utilizara para publicidad dirigida. Lo que frenó a Google no fue la ética, sino la ley antimonopolio. La implicación es alarmante: si tememos la manipulación biométrica, la variabilidad de la frecuencia cardíaca puede ser ahora un vector más práctico que la lectura especulativa de la mente basada en EEG.
Nada de esto significa que los datos neuronales requieran menos protección. Todo lo contrario: significa que debemos integrar lo que hemos aprendido de la era tecnológica en la supervisión digital. La neurotecnología merece una gobernanza estricta, pero no puede regularse en el vacío. No debemos exagerar los riesgos especulativos futuros e ignorar los mecanismos de influencia probados que ya funcionan en todo el conjunto digital.
El reciente anuncio de la inversión de Sam Altman en Merge Labs ilustra el entusiasmo. En respuesta, los expertos y expertos en línea nos advierten que los gigantes tecnológicos están utilizando la terapia genética para atacar nuestro cerebro. Sin embargo, la verdadera asimetría de poder radica en cómo pueden monetizar las señales mundanas de la vida cotidiana. ¿Parte de la información que los usuarios donan voluntariamente a OpenAI mediante el uso de ChatGPT como asistente/terapeuta/consultor califica como datos cerebrales?
Hacer que los circuitos cerrados sean impugnables
Los BCI de circuito cerrado son sistemas que leen, procesan y administran estimulación específica a la actividad neuronal, lo que resulta en un control más efectivo. Un ejemplo de esto son las neuroprótesis que se utilizan para tratar la epilepsia prediciendo las convulsiones y administrando estimulación eléctrica que evita que se propaguen. También plantean preocupaciones: ¿podrían esos bucles influir de forma encubierta en el comportamiento?
Las plataformas de redes sociales monitorean los clics, ajustan algorítmicamente lo que viene a continuación y optimizan infinitamente para generar participación. El papel de Cambridge Analytica en las elecciones no fue un riesgo teórico, sino evidencia de que ya existen circuitos cerrados de retroalimentación conductual, impulsados no por electrodos sino por fuentes de contenido.
La propaganda y la manipulación no son nada nuevo. Hace siglos, la imprenta provocó una explosión de información y desinformación. Desde entonces, la responsabilidad de garantizar que la población esté suficientemente educada para resistir la manipulación ha recaído en los medios de comunicación y los líderes de la sociedad civil. Durante la última década, las redes sociales han demostrado cuán efectiva puede ser la influencia dirigida a gran escala. A diferencia de los circuitos de retroalimentación basados en la web, la neurotecnología puede eludir los filtros conscientes del usuario. No existe una protección autoimpuesta, se va directo a la fuente. Es la diferencia entre propaganda y apuntar con un arma a la mente de otra persona.
Así que la cuestión no es si existen circuitos cerrados en la corteza cerebral o en la pantalla de un teléfono inteligente, sino si estos circuitos son transparentes, verificables y discutibles. La neurotecnología no debería repetir los errores de las redes sociales. Debe estar equipado con pistas de auditoría, límites de seguridad claros y responsabilidades desde el principio. Las pautas de estimulación deben considerarse críticas para la seguridad y estar sujetas a los mismos tipos de pruebas y protocolos que se aplican a la aviación o los productos farmacéuticos.
Equilibrar la productividad y el bienestar humano
En teoría, las BCI podrían hacer que las personas escriban más rápido, aprendan más rápido o trabajen más tiempo. Sin embargo, esto sólo prolongaría la rutina de las tecnologías de consumo actuales que nos empujan a producir más y luego nos distraemos.
Un horizonte más rico es ampliar el acceso a lo que los filósofos alguna vez llamaron “la buena vida”: creatividad, juego, profundidad estética, conexión social y asombro. Imagine que las BCI amplifican la resonancia emocional de la música, hacen que el arte colaborativo sea más inmersivo o hacen que la rehabilitación sea más motivadora, no como un subproducto, sino como objetivos centrales del diseño.
Universidad de Newcastle neudio El proyecto apunta en esta dirección. Sincronizar la música con la actividad neuronal no se trata de curar la depresión o aumentar la productividad, sino simplemente de amplificar el impacto emocional de una canción. La mejora en el BCI puede medirse mejor en piel de gallina por segundo que en palabras por minuto.
¿Qué sigue? Elegir lo que valoras
Si logramos corregir la ética en esta lenta fase, antes de que la implementación supere el pensamiento, la enmienda de California a la Ley de Privacidad del Consumidor SB 1223 será recordada no como el final de un debate, sino como el comienzo de un debate más imaginativo.
La cuestión central no es sólo cómo se pueden minimizar los riesgos. Es lo que valoras. ¿Queremos tecnologías que traten nuestros cerebros como si fueran mineros o cuidando jardines? ¿Queremos conformidad y control o prosperidad y diferencia? La creatividad humana siempre ha impulsado la tecnología hacia la diversidad, la subcultura y el juego. Incluso con algo tan poderoso como las BCI, hay razones para creer que la diversidad prevalecerá sobre la uniformidad.
A medida que avanzamos en esta área, invito a líderes de opinión clave a ponerse en contacto para que podamos discutir el futuro de la ética en BCI.
Imagen: Getty Images, Wigglestick
Cyril Eleftheriou es el director de neurotecnología en Subsentidolidera la investigación y el desarrollo en neurociencia visual, biología de interfaz e imágenes de precisión para la interfaz cerebro-computadora no quirúrgica basada en nanopartículas de la compañía. Ex científico senior de Novartis, aporta más de 15 años de experiencia en el Reino Unido, Italia y EE. UU. en interfaces neuroelectrónicas, imágenes avanzadas y regeneración de retina. Su investigación abarcó desde la terapia génica y los productos biológicos de nanopartículas hasta la microscopía multifotónica y el mapeo de circuitos neuronales. En Subsense, Cyril aprovecha su experiencia multidisciplinaria para promover una comunicación perfecta entre mente y máquina y redefinir la forma en que las personas interactúan con la tecnología a través de interfaces neuronales seguras, escalables y no invasivas.
Este artículo aparece en el Influencer de MedCity Programa. A través de MedCity Influencer, cualquiera puede publicar sus puntos de vista sobre negocios e innovación en la atención médica en MedCity News. Haga clic aquí para descubrir cómo.
