La sesión legislativa 2024 de California ha concluido oficialmente, y es hora de reflexionar sobre las victorias y las derrotas que han configurado el panorama de los derechos digitales de los californianos este año.
La EFF supervisó casi 100 proyectos de ley en el estado solo en esta sesión, abordando una amplia gama de cuestiones relacionadas con la privacidad, la libertad de expresión y la innovación. Entre ellos se incluyen las normas propuestas para los sistemas de Inteligencia Artificial (IA) utilizados por los organismos estatales, la intersección de la IA y los derechos de autor, las prácticas de vigilancia policial y diversas cuestiones relacionadas con la privacidad. Aunque hemos visto algunas victorias significativas, también hay acontecimientos alarmantes que suscitan preocupación sobre el futuro de la protección de la privacidad en el estado.
Celebrar nuestras victorias
Esta sesión legislativa ha traído algunas victorias para los defensores de la privacidad, sobre todo la derrota de cuatro peligrosos proyectos de ley: A.B. 3080, A.B. 1814, S.B. 1076 y S.B. 1047. Estos proyectos de ley suponían graves amenazas para la privacidad de los consumidores y habrían socavado los avances logrados en años anteriores.
En primer lugar, elogiamos a la Legislatura de California por no promover A.B. 3080 "Ley de responsabilidad de los padres y protección de la infancia", cuyo autor es el asambleísta Juan Alanís (Modesto). El proyecto de ley habría creado poderosos incentivos para que los "sitios web pornográficos de Internet" utilizaran mecanismos de verificación de la edad. El proyecto de ley no era claro sobre lo que cuenta como "contenido sexualmente explícito". Sin directrices claras, este proyecto de ley perjudicará aún más la capacidad de todos los jóvenes -especialmente los jóvenes LGBTQ+- para acceder a contenidos legítimos en línea. Diferentes versiones de proyectos de ley que exigen la verificación de la edad han aparecido en más de una docena de estados. Comprendemos la preocupación de Asm. Alanis, pero la A.B. 3080 habría exigido una recopilación de datos amplia e invasiva de la privacidad de los usuarios de Internet de todas las edades. Agradecemos que no haya llegado a la línea de meta.
En segundo lugar, la EFF trabajó con docenas de organizaciones para derrotar el PROYECTO DE LEY 1814 un proyecto de ley de reconocimiento facial cuyo autor era el asambleísta Phil Ting (San Francisco). El proyecto de ley pretendía ampliar el uso del software de reconocimiento facial por parte de la policía para "cotejar" imágenes de bases de datos de vigilancia con posibles sospechosos. Esas imágenes podrían utilizarse entonces para emitir órdenes de detención o de registro. El proyecto de ley se limitaba a decir que estas coincidencias no pueden ser la única razón para que se emita una orden -una norma que ya ha fracasado a la hora de impedir las detenciones falsas en otros estados.. Tanto los departamentos de policía como las empresas de reconocimiento facial sostienen actualmente que la policía no puede justificar una detención utilizando únicamente coincidencias algorítmicas, así que ¿qué cambiaría realmente este proyecto de ley? El proyecto de ley sólo da la apariencia de hacer algo para abordar los daños de la tecnología de reconocimiento facial, al tiempo que permite que la práctica continúe. California no debería dar luz verde a las fuerzas del orden para minar las bases de datos, especialmente aquellas en las que las personas aportan información sin saber que las fuerzas del orden accederán a ella. Puedes leer más sobre este proyecto de ley aquíy nos alegramos de que la legislatura de California rechace este peligroso proyecto de ley.
EFF también trabajó para oponerse y derrotar SB 1076 del senador Scott Wilk (Lancaster). Este proyecto de ley habría debilitado la Ley de Supresión de California (S.B. 362). Promulgada el año pasado, la Ley de Supresión ofrece a los consumidores un botón de "un clic" para solicitar la eliminación de su información personal en poder de los corredores de datos registrados en California. Para el 1 de enero de 2026. La SB 1076 habría abierto lagunas para que los corredores de datos eludieran el cumplimiento de la ley. Esto habría perjudicado los derechos de los consumidores y anulado la supervisión de un ecosistema opaco de entidades que recopilan y luego venden información personal que han acumulado sobre los individuos. La SB 1076 probablemente habría creado una confusión significativa con el desarrollo, la aplicación y la usabilidad a largo plazo del mecanismo de supresión establecido en la Ley de Supresión de California, en particular mientras la Agencia de Protección de la Privacidad de California trabaja en su reglamentación.
Por último, la EFF se opuso a la SB 1047 la "Ley de Innovación Segura para Modelos de Inteligencia Artificial Fronterizos", del senador Scott Wiener (San Francisco). Este proyecto de ley pretendía regular los modelos de IA que pudieran tener efectos "catastróficos", como ataques a infraestructuras críticas. En última instancia, creemos que centrarse en los resultados especulativos, catastróficos y a largo plazo de la IA (como máquinas que se vuelven rebeldes y se apoderan del mundo) desvía la atención de los daños provocados por la IA que tenemos ante nosotros. La EFF apoyó partes del proyecto de ley, como la creación de un clúster público de computación en la nube (CalCompute). Sin embargo, también nos preocupó desde el principio que el proyecto de ley estableciera un conjunto de normas abstractas y confusas para quienes desarrollan sistemas de IA y se basara en un mecanismo de autocertificación poco sólido. Esas preocupaciones se mantuvieron en la versión final del proyecto de ley, tal y como se aprobó en la legislatura.
El gobernador Newsom vetó la ley S.B. 1047; animamos a los legisladores preocupados por las amenazas que puede suponer una IA descontrolada a que, en su lugar, consideren una regulación centrada en los daños del mundo real.
Por supuesto, esta sesión no fue todo sol y arco iris, y tuvimos algunos grandes contratiempos. Aquí están algunos:
La promesa perdida de A.B. 3048
A lo largo de esta sesión, la FEP y nuestros socios apoyaron PROYECTO DE LEY 3048 una legislación de sentido común que habría exigido a los navegadores que permitieran a los consumidores ejercer sus protecciones en virtud de la Ley de Privacidad del Consumidor de California (CCPA). En la actualidad, California es uno de los aproximadamente doce estados que exigen a las empresas que respeten las solicitudes de privacidad de los consumidores realizadas a través de señales de preferencia de exclusión voluntaria en sus navegadores y dispositivos. Sin embargo, las grandes empresas han dificultado a menudo que los consumidores ejerzan esos derechos por sí mismos. El proyecto de ley habría equilibrado adecuadamente la oferta a los consumidores de formas de ejercer sus derechos de privacidad sin crear requisitos gravosos para los desarrolladores ni obstaculizar la innovación.
Lamentablemente, el Gobernador Newsom decidió vetar la ley A.B. 3048. Su carta de veto citaba la falta de apoyo de los operadores móviles, argumentando que, dado que "ningún sistema operativo móvil importante incorpora una opción para una señal de exclusión", es "mejor que las cuestiones de diseño sean abordadas primero por los desarrolladores, en lugar de por los reguladores." La EFF cree que los tecnólogos deben participar en el proceso regulador y espera poder ayudar en ese proceso. Pero el Gobernador Newsom se equivoca: no podemos esperar a que los agentes del sector apoyen voluntariamente una normativa que proteja a los consumidores. Las medidas proactivas son esenciales para salvaguardar los derechos de privacidad.
Este proyecto de ley habría hecho avanzar a California en la dirección correcta, convirtiéndola en el primer estado que exige a los navegadores ofrecer a los consumidores la posibilidad de ejercer sus derechos.
Soluciones erróneas a problemas reales
Un tema importante que hemos visto en esta sesión legislativa han sido las propuestas que pretendían abordar problemas reales, pero que habrían sido ineficaces o no habrían respetado la privacidad. Entre ellas había proyectos de ley sobre la seguridad de los jóvenes en Internet y las falsificaciones en las elecciones.
Aunque derrotamos muchos proyectos de ley equivocados que se presentaron para abordar el acceso de los jóvenes a Internet, SB 976 de la que es autora la senadora Nancy Skinner (Oakland), recibió la firma del gobernador Newsom y entrará en vigor el 1 de enero de 2027. Esta propuesta pretende regular las características "adictivas" de las empresas de medios sociales, pero en su lugar compromete la privacidad de los consumidores en el estado. Además, es probable que el proyecto de ley esté regulado por la legislación federal y suscita considerables preocupaciones en relación con la Primera Enmienda y la privacidad. Es poco probable que la SB 976 proteja a los niños en Internet y, en cambio, perjudicará a todos los hablantes en línea al gravar la libertad de expresión y disminuir la privacidad en línea al incentivar a las empresas a recopilar más información personal.
No es ningún secreto que los deepfakes pueden ser increíblemente convincentes, y eso puede tener consecuencias aterradoras, especialmente durante un año electoral. Dos proyectos de ley que intentan abordar esta cuestión son A.B. 2655 y A.B. 2839. De autoría del asambleísta Marc Berman (Palo Alto), la A.B. 2655 exige que las plataformas en línea desarrollen y apliquen procedimientos para bloquear y retirar, así como etiquetar por separado, los contenidos manipulados digitalmente sobre candidatos y otros temas relacionados con las elecciones que creen una imagen falsa sobre esos temas. Creemos que la A.B. 2655 viola probablemente la Primera Enmienda y conducirá a una censura excesiva de la expresión en línea. El proyecto de ley también está regulado por la Sección 230, una ley federal que proporciona inmunidad parcial a los intermediarios en línea para las causas de acción basadas en el contenido generado por el usuario publicado en sus plataformas.
Del mismo modo, la A.B. 2839, cuyo autor es el asambleísta Gail Pellerin (Santa Cruz), no sólo prohíbe la distribución de contenido materialmente engañoso o alterado relacionado con las elecciones, sino que también afecta a los meros distribuidores (sitios web de Internet, periódicos, etc.) que no están relacionados con la creación del contenido, independientemente de si tienen conocimiento de la manipulación prohibida. Al extenderse más allá de los editores directos y abarcar a los reeditores, la ley A.B. 2839 grava y responsabiliza a los reeditores de contenidos de una manera que ha sido declarada inconstitucional.
Hay formas de abordar los daños de los deepfakes sin ahogar la innovación y la libertad de expresión. Reconocemos las complejas cuestiones que plantea el contenido electoral potencialmente dañino generado artificialmente. Pero las leyes A.B. 2655 y A.B. 2839, tal como fueron redactadas y aprobadas, probablemente violan la Primera Enmienda y la ley federal. De hecho, menos de un mes después de su firma, un juez federal puso en pausa la aplicación de la A.B. 2839 (a través de una medida cautelar) sobre la base de la primera enmienda.
Riesgos para la intimidad en las bases de datos estatales
También hemos observado una tendencia preocupante en la legislatura de este año que consideraremos prioritaria de cara a 2025. En esta sesión surgieron varios proyectos de ley que, de diferentes maneras, amenazaban con debilitar la protección de la privacidad en las bases de datos estatales. En concreto, las leyes A.B. 518 y A.B. 2723, que recibieron la firma del gobernador Newsom, suponen un paso atrás para la privacidad de los datos.
La ley A.B. 518 autoriza a numerosas agencias de California a compartir, sin restricciones ni consentimiento, información personal con el Departamento de Servicios Sociales (DSS) del estado, eximiendo este intercambio de todas las leyes de privacidad estatales. Esto incluye a las agencias a nivel de condado, y las personas cuya información se comparte no tendrían forma de saberlo o de optar por no hacerlo. El proyecto de ley A.B. 518 es increíblemente amplio, ya que permite compartir información sobre salud, situación migratoria, expedientes académicos, expedientes laborales, expedientes fiscales, información sobre servicios públicos, información sobre menores e incluso expedientes sellados de menores, sin exigir al DSS que mantenga la confidencialidad de esta información personal y sin restringir lo que el DSS puede hacer con ella.
Por otro lado, la ley A.B. 2723 asigna un consejo de administración a la nueva base de datos longitudinal de educación "Cradle to Career (CTC)", destinada a sintetizar la información sobre los alumnos recogida en todo el estado para permitir una investigación y un análisis exhaustivos. Los padres y los niños proporcionan esta información a sus escuelas, pero este proyecto significa que su información se utilizará en formas que nunca esperaron o consintieron. Peor aún, tal como está redactado, este proyecto estaría exento de las siguientes salvaguardias de privacidad de la Información Prácticas de Ley de de 1977 (IPA) que, con respecto a los organismos estatales, garantizaría a los padres y estudiantes de California:
- el derecho de las personas cuya información se conserve en el sistema de datos a recibir notificación de que sus datos están en el sistema;
- el derecho a consentir o, lo que es más significativo, a negar el consentimiento;
- y el derecho a solicitar la corrección de información errónea.
Al firmar la ley A.B. 2723, el gobernador Newsom despojó a los padres y estudiantes de California del derecho a saber siquiera que esto estaba ocurriendo, o a aceptar este procesamiento de datos en primer lugar.
Por otra parte, si bien ambos proyectos de ley permiten a los organismos estatales pisotear los derechos de los californianos en materia de IPA, estos derechos ni siquiera se aplican a los organismos a nivel de condado afectados por la Ley 518 o las escuelas públicas locales y los distritos escolares afectados por la Ley 2723, lo que apunta a la necesidad de más barreras en torno al intercambio de datos sin restricciones a nivel local.
Un llamamiento a la protección local integral
Las leyes A.B. 2723 y A.B. 518 revelan una pieza crucial que falta en los derechos de privacidad de los californianos: que los derechos de privacidad garantizados a los individuos a través de la IPA de California no los protegen de las formas en que las agencias locales recopilan, comparten y procesan los datos. La ausencia de protecciones sólidas de la privacidad en el ámbito de la administración local es un problema constante que debe abordarse.
Ahora es el momento de presionar para que se refuercen las protecciones de la privacidad, responsabilizar a nuestros legisladores y garantizar que California siga siendo líder en la lucha por la privacidad digital. Como siempre, queremos agradecer su apoyo a nuestra defensa en California este año. Vuestras voces tienen un valor incalculable y realmente marcan la diferencia.
No nos conformemos con medidas a medias o soluciones débiles. Nuestra privacidad merece la pena.
