Cortesía de Grano de Sal, compartimos un fragmento de El futuro de la libertad de expresión. Internet, plataformas y algoritmos, de Saúl López Noriega, próximamente disponible en librerías.
A finales de 2022, después de meses de escarceos, Elon Musk, en ese momento el hombre más rico del mundo, compró la red social Twitter por más de 40 mil millones de dólares.1 Si bien no contaba con un número relevante de usuarios, al menos en comparación con Facebook o TikTok, y en cambio sufría dificultades para garantizar su rentabilidad, la enorme relevancia de esta plataforma en la conversación pública de diversas democracias hizo que la operación despertase un enorme interés alrededor del mundo.
Musk fue claro al explicar por qué se aventuraba a hacer esta compra, a pesar de los riesgos que implicaba para sus inversiones en el negocio de automóviles eléctricos de lujo y en la industria aeroespacial. La libertad de expresión era “el cimiento de una democracia que funciona” y, en este sentido, Twitter era la “plaza digital donde se debaten asuntos vitales para el futuro de la humanidad”.2 Así, el 27 de octubre del 2022, al concretarse esta operación financiera, en su misma cuenta de Twitter anunció: “el pájaro ha sido liberado”,3 en alusión al logo de esta red social y a las críticas que había esgrimido respecto de las reglas de moderación de expresiones en Twitter, que impiden circular cierto tipo de contenidos, al grado de que habían cancelado las cuentas que no cumpliesen con tales pautas —lo que ocurrió en particular con la del ex presidente Donald Trump.
Musk, cuyo personaje público se ha presentado como un militante a favor de una libertad de expresión absoluta, sin restricción alguna, presentó su arribo al negocio de las redes sociales como una cruzada a favor de la libertad en Occidente. Sería un punto de quiebre en la liberalización de las expresiones. De inmediato asumió la dirección de esta red social, con una gestión que pronto quedaría marcada por decisiones impulsivas y equivocadas,4 y sobre todo por un poder sin precedentes respecto de los alcances de la libertad de expresión en el mundo digital.
Un botón de muestra: a los pocos días de tomar el control de la red social, Musk lanzó una encuesta para determinar si debía reestablecerse la cuenta de Trump. Vale recordar que dicha cancelación, decidida por los anteriores directivos de Twitter, fue motivada por las incitaciones del expresidente, por medio de esta red social, a que sus partidarios tomaran, el 6 de enero de 2021, la sede del Congreso de Estados Unidos e impidiesen la conclusión formal de las elecciones presidenciales. La mayoría de los participantes en esta encuesta, abierta durante 24 horas y que sumó alrededor de 15 millones de votos, se inclinó por reactivar la cuenta. Fue una mayoría de apenas 51 %, pero suficiente para que Musk pudiese legitimar su decisión de abrirle la puerta a Donald Trump, cuyo ascenso a la presidencia estadounidense y su gobierno populista no se pueden entender sin el uso de esta red social.5
Las críticas a esta decisión no se hicieron esperar, ni tampoco las lecturas respecto de sus posibles consecuencias en las elecciones estadounidenses de 2024; sin embargo, más allá de estos debates, el episodio evidenció un aspecto medular de las condiciones de la libertad de expresión en el mundo digital: el enorme poder de las empresas privadas en la definición de la libertad de expresión digital. Se trata de un ejemplo de pizarrón: un multimillonario compra por más de 40 000 millones de dólares esta red social; luego, de manera unilateral, sin siquiera ofrecer una mínima justificación y mediante una encuesta basada en una dudosa metodología, determina que el ex presidente del país más poderoso del mundo, con intenciones de reelegirse en 2024, pueda potenciar su libertad de expresión ejerciéndola en esta red social.
Es cierto: había argumentos de peso, desde una perspectiva de la libertad de expresión de un ciudadano con aspiraciones políticas, a favor de reactivar la cuenta de Trump. Pero justo éstos no estuvieron presentes en este proceso de decisión, cuyo único sostén fue el enorme poder del actual dueño de esa empresa de tecnología. También es correcto que no era la primera vez que algunos actores privados tenían una enorme influencia en el sistema de expresiones de las sociedades. Los grandes imperios mediáticos de los años noventa del siglo pasado son un ejemplo clarísimo de ello.6 Sin embargo, estamos ante una vuelta de tuerca: un poder inédito en su alcance global y su profundidad definitoria, un poder que, con independencia de lo estrambótico del personaje que lo ejerza,7 y al concentrarse en sólo una persona pone en riesgo como nunca la libertad de expresión.8
La amenaza medular de esta dinámica privatizadora del mundo de las plataformas de internet reside en que esta libertad pierda su carácter de bien público. Como el resto de los derechos, la libertad de expresión debe ser resultado de una construcción institucional por parte del Estado, que establezca los pilares del sistema de expresiones de una sociedad. Los alcances y los límites de tal armazón siempre estarán abiertos a debate, de acuerdo con los vaivenes de las mayorías democráticas, los avances tecnológicos y los embates de las nuevas formas del poder. No obstante, tal garantía institucional debería ofrecer un grado mínimo de protección a las expresiones que pueda lanzar una persona o un grupo de personas, sin considerar su estatus social ni su capacidad económica. Se trata de un bien público porque justo garantiza un espacio de libertad para todos los miembros de una comunidad política, con la única condición de respetar la convivencia propia del pluralismo.9
Pero el arribo de Musk al mundo de las redes sociales ofrece una estampa diametralmente opuesta. Se trata de una estructura de expresiones, con enormes consecuencias en la discusión de temas de interés público en varios países del mundo, rediseñada de manera unilateral por un individuo, cuya única legitimidad para dicha labor es su capacidad económica para apropiarse de una plataforma de internet, sin ninguna intervención democrática estatal que procese la participación del resto de los involucrados en ese bien público. Se trata de una imagen que captura el apogeo del rumbo que ha tomado la plataformización de internet en el último cuarto de siglo. En efecto, con sus respectivos matices, esta misma dinámica se reproduce en cada uno de los principales intermediarios en línea que gobiernan las expresiones en el mundo occidental. No siempre este poder se concentra sólo en una persona, pero en cada caso se trata de apenas un puñado de individuos que también carecen de legitimidad democrática y de un mecanismo de responsabilidad para administrar un bien público como la libertad de expresión.
En respuesta a este escenario, los polos geopolíticos estadounidense y europeo, después de una siesta de prácticamente un cuarto de siglo, en los últimos años han despertado para hacer frente a estas nuevas formas de poder. Como punta de lanza, en 2016 Europa impulsó entre otras regulaciones el Reglamento General de Protección de Datos y en 2024 entrarán en vigor la Ley de Servicios Digitales y la Ley de Mercados Digitales.10 Ambos instrumentos legales, juntos con otros más,11 plantean respuestas a varios de los problemas que se han estudiado a lo largo de este libro; el reto principal, más allá del tino de su diseño, reside justo en su capacidad de implementar esta nueva generación de regulaciones en un ámbito prácticamente desconocido: internet. Estados Unidos, por su parte, si bien con cierto rezago en comparación con las políticas públicas europeas, debido a su reacia tradición a cualquier tipo de regulación estatal y a la dificultad de lograr acuerdos legislativos debido a la polarización política que vive desde hace años, también empieza a impulsar regulaciones: legislaciones a nivel federal y local que abordan el manejo de datos agregados y el modelo de negocio de las plataformas;12 investigaciones y demandas judiciales, de su procuraduría de justicia y de órganos reguladores, para someter a escrutinio las posiciones monopólicas y prácticas anticompetitivas en el mercado de la publicidad digital de algunas plataformas;13 una propuesta de carta de derechos y principios encaminada a contener los excesos de las ramificaciones de poder derivadas de la inteligencia artificial.14 Además, hace muy poco, su Corte Suprema decidió revisar por primera vez el carácter constitucional de la inmunidad establecida en la sección 230 de la Ley de Decencia en las Comunicaciones —aunque al final las sentencias, como se explica de forma sucinta en el capítulo 1, evitaron discutir en serio la responsabilidad legal de las plataformas de internet—.15 El tiempo dirá qué tan acertadas resultaron estas políticas públicas y otras más que de seguro vendrán en los siguientes años; lo cierto, no obstante, es que tanto el debate europeo como el estadounidense respecto de qué y cómo regular las plataformas de internet se ha ubicado en el centro de la agenda que trazará el futuro de estas potencias occidentales.
América Latina, por su parte, enfrenta problemas para establecer un espacio de discusión adecuado para resolver estos complejos acertijos. La larga estela de abusos y actos de censura, junto con la intromisión y la vigilancia a grupos disidentes por parte de los regímenes autoritarios y las dictaduras militares durante el siglo xx, dificulta que las organizaciones de la sociedad civil y los nichos académicos inviten con comodidad a los Estados, aun con credenciales democráticas, a diseñar e implementar regulaciones para proteger la esfera digital. Décadas de abuso que perviven en algunos países hasta hoy han propiciado que la estructura estatal sea vista estrictamente como una amenaza a la libertad, sin considerar que también puede ser una aliada en ciertas condiciones institucionales. Esta preocupación, vale insistir, es fundada: sobran episodios de gobiernos de nuestra región que han aprovechado la más mínima oportunidad para interferir de forma indebida en la libre circulación de las ideas. Estos lastres autoritarios, por desgracia, se han reinventado ahora en chicotazos digitales que cierran internet de manera selectiva, bloquean nombres de dominio, restringen contenido durante manifestaciones sociales y utilizan herramientas digitales para espiar a activistas, periodistas y demás miembros de la sociedad civil.16 A pesar de ello, a otro ritmo que Europa y Estados Unidos, guiados por otras preocupaciones y tradiciones legales, y apoyados en una menguante estructura estatal, algunos países latinoamericanos como Argentina, Chile y Colombia avanzan en la tarea de repensar la libertad de expresión en línea, entre otras asignaturas pendientes relacionadas con la digitalización y la inteligencia artificial.17
Entonces, si el mundo avanza, si la mayoría de los países están inmersos en la reflexión de soluciones para sortear el complejo reto de la gobernanza de las plataformas de internet,18 las preguntas obligadas son: ¿cuál es el nivel de discusión en México?, ¿qué políticas públicas se han concretado en los últimos años?, ¿cuál es la agenda aún pendiente en esta materia?
El silencio mexicano es, por decir lo menos, estruendoso. Es cierto que existen algunos avances impulsados por organismos constitucionales autónomos, pero se trata de esfuerzos aislados, carentes de la coordinación que se requiere para abordar las problemáticas que giran alrededor de los intermediarios en línea: una política de Estado que trascienda los tiempos de las administraciones gubernamentales y las divisiones partidistas, y que piense en las décadas por venir. En efecto, el calibre de esta transformación exige que cada país, sin importar el tamaño de su economía, su grado de digitalización, su ubicación geográfica, imagine regulaciones que protejan las enormes ventajas que ofrecen las redes sociales y que, a la vez, contengan sus eventuales daños.
Pero, mientras esta revolución tecnológica avanza en el mundo y promete sacudir los fundamentos mismos de las sociedades contemporáneas, México sigue sin siquiera plantear, desde sus principales centros de decisión política, un debate encaminado a pensar una política pública en la materia. La inacción mexicana sorprende más si se considera que se trata de la décima quinta economía en el mundo y que apenas acaba de ratificar su tratado de libre comercio con Estados Unidos y Canadá, actualizado en ámbitos tan relevantes como el de la economía digital; además, si bien todavía hay obstáculos no menores para reducir la brecha digital, en los últimos años el país ha vivido un drástico viraje hacia un discurso público digital.
Algunos datos sobre este último punto: para 2021, 78 % de la población mexicana de 6 años o más —poco más de 88 millones de personas— tenía acceso a internet. Hay todavía casi 30 millones sin acceso a la red de redes, pero es clara la penetración de esta tecnología en nuestra sociedad. En sintonía, en 2022 se alcanzó una cobertura de telefonía celular de alrededor de 125 millones de usuarios: casi una línea por habitante, aunque debemos considerar que hay personas con más de un celular y que algunas líneas se mantienen inactivas. Ahora, del universo de personas con acceso al mundo en línea, la mayoría participa en las redes sociales: 94 % envía mensajes por medio de WhatsApp, 93 % tiene una cuenta en Facebook, 79 % en Instagram, 70 % en Twitter y 56 % en TikTok. Si bien estos datos fluctúan y las plataformas no son transparentes respecto de su número de usuarios, esto significa que alrededor de 83 millones de mexicanos están conectados a WhatsApp, 82 millones a Facebook, 70 millones a Instagram, 62 millones a TikTok y 50 millones a Twitter. Un par de datos más, para acabar de dimensionar la relevancia en México de la libertad de expresión en línea: los cibernautas del país, en el rango de edad entre 16 y 64 años, pasan en línea prácticamente 9 horas diarias en promedio, mientras que el promedio mundial es menos de 7. Y de esas 9 horas, más de 3 las dedican a interactuar en las redes sociales. Por último, 68 % de los usuarios de internet en tierras mexicanas accede a noticias en los medios digitales y las redes sociales; no necesariamente son su única fuente de información, pero el dato demuestra que la relevancia de estas plataformas en la conversación pública es indiscutible.19
Pero, además, por si no fuese suficiente motivo este viraje digital del país para pensar en políticas públicas sobre la libertad de expresión en línea, el Tratado entre México, Estados Unidos y Canadá nos ofrece un excelente punto de partida para impulsar una legislación de avanzada sobre la libertad de expresión en línea.20 En efecto, más allá de las motivaciones políticas que orillaron a renegociar el acuerdo comercial, este proceso resultó en una excelente oportunidad para actualizar ese instrumento legal de acuerdo con el desarrollo tecnológico del último cuarto de siglo. Un capítulo medular del t-mec, en este sentido, es el 19, que se ocupa del comercio digital. En ese apartado se abordan temas como las transacciones electrónicas, los productos digitales, la autentificación de firmas electrónicas, el código fuente, los algoritmos, la ciberseguridad y varios más que son indispensables para la economía digital y que en los albores de los años noventa del siglo pasado no eran más que ideas un tanto descabelladas.
Vale la pena detenerse en un aspecto en particular de este capítulo, clave para la conversación pública en tiempos de redes sociales y plataformas de internet: el artículo 19.17, que, bajo la etiqueta de servicios informáticos interactivos, establece en su párrafo 2 lo siguiente:
Ninguna parte adoptará o mantendrá medidas que traten a un pro-veedor o usuario de un servicio informático interactivo como proveedor de contenido de información para determinar la responsabilidad por daños relacionados con la información almacenada, procesada, transmitida, distribuida o puesta a disposición por el servicio, excepto en la medida en que el proveedor o usuario, en su totalidad o en parte, haya creado o desarrollado la información.
Se trata, en efecto, de una traducción literal de la multicitada sección 230 de la Ley de Decencia en las Comunicaciones estadounidense y que ha ocupado un lugar central en el análisis de este libro. Lo que establece esta disposición, conviene recordar, es una inmunidad legal para los intermediarios en línea que ofrezcan un espacio para que terceros suban cualquier tipo de información. Es decir, a diferencia de los medios de comunicación tradicionales, como la televisión o los periódicos, que influyen de manera decisiva en el contenido que circulan en ellos, las redes sociales como Twitter o Facebook se limitan a establecer y administrar un espacio para que sus usuarios se expresen. Por ello, de acuerdo con esta idea, esta regulación las protege en principio ante cualquier responsabilidad legal por tales expresiones. Esta misma disposición ciertamente establece excepciones no menores a esta inmunidad legal, como la propiedad intelectual y los tipos penales de cada uno de los países integrantes de este acuerdo comercial. Pero salvo tales excepciones, esa inmunidad permite que las redes sociales no se consideren responsables por los comentarios, las fotografías y los videos que sus usuarios comparten en línea, sin importar qué tan dañinos u obscenos sean, siempre que no participen en ningún sentido en la creación del contenido que los usuarios suben a internet.
El otro punto central de la lógica de esta protección legal, como hemos visto, consiste en que se protege a los intermediarios en línea siempre que actúen de buena fe y hagan un genuino esfuerzo por moderar los contenidos indeseables, aspecto que también se incorporó en el t-mec, en el párrafo 3 del mencionado artículo 19.17:
Ninguna parte impondrá responsabilidad a un proveedor o usuario de un servicio informático interactivo a causa de: a] cualquier acción voluntariamente adoptada de buena fe por el proveedor o usuario para restringir su acceso a o la disponibilidad del material que es accesible o está disponible mediante el suministro o uso de los servicios informáticos interactivos y que el proveedor o usuario considere perjudicial u objetable; o b] cualquier medida adoptada para habilitar o poner a disposición los medios técnicos que permitan a un proveedor de contenidos de información u otras personas restringir el acceso a material que considere perjudicial u objetable.
De esta manera, el t-mec ratificó a cabalidad una de las piezas legales medulares para trazar el modelo de internet en Occidente, misma que ha operado de la siguiente manera: por un lado, las redes sociales como Twitter y TikTok no pueden ser demandadas por la vía legal por las expresiones que suben sus usuarios, salvo que éstas violen derechos de autor o propiedad intelectual, o se trate de delitos como pornografía infantil o trata de personas; por su parte, a cambio de esta inmunidad, las plataformas de internet deben hacer un esfuerzo de buena fe por eliminar el contenido perjudicial y ofensivo que suban sus usuarios.
El modelo establecido por la sección 230, si bien ha tenido una enorme repercusión en la arquitectura de internet y en la operación de los intermediarios en línea en el último cuarto de siglo, hoy está en el centro de duros cuestionamientos en varios puntos del planeta. ¿Sigue siendo adecuada esta protección legal ante la relevancia que han adquirido las redes sociales en las sociedades contemporáneas? ¿Es suficiente este mecanismo para combatir los discursos de odio y la violencia digital? ¿Los estándares de las plataformas deben tener como rasero algunos derechos constitucionales e internacionales? ¿Cómo mejorar los sistemas de moderación de expresiones ante plataformas globales que revisan expresiones en diversas lenguas y contextos culturales? ¿Por qué ante el enorme poder que han acumulado las redes sociales no asumen mayor responsabilidad frente al discurso público democrático? ¿Cuál es la justificación para sostener un modelo de autorregulación sin una intervención mínima de los Estados encaminada a atemperar algunos de los excesos de los intermediarios en línea? Estas y muchas otras preguntas son las que alimentan esta discusión y que definirán el futuro de este tipo de inmunidades en el mundo occidental.
Y aquí es justo donde el t-mec ofrece una oportunidad a México para reflexionar sobre cuál debe ser el mejor aterrizaje legal del mencionado artículo 19.17, con el propósito de establecer reglas mínimas para proteger el sistema de expresiones digitales en el país. Al respecto, hay que recordar que, si bien este tratado comercial se firmó el 30 de noviembre de 2018, entró en vigor apenas el 1º de julio de 2020 y, en concreto, de acuerdo con su anexo 19-a, esta disposición de servicios informáticos interactivos apenas lo hizo para México el 1º de julio de 2023. Este anexo, sin embargo, no sólo aplazó la aplicación de este artículo, sino que también incluye tres acotaciones sustantivas de enorme relevancia.
En primer lugar, se aclara que los artículos 145 y 146 de la Ley Federal de Telecomunicaciones no son incompatibles con el artículo 19.17 del t-mec.21 Estas disposiciones básicamente determinan que los prestadores de servicios de internet no pueden limitar ni discriminar el acceso de sus usuarios a ningún contenido. Pero justo se refieren a prestadores de servicio de internet, como Prodigy, Izzi o Unefón, entre otros, mas no a redes sociales, como Google e Instagram. Esta nota del anexo 19-a, entonces, aclara de manera explícita las diferentes reglas para el manejo de los contenidos digitales: los prestadores de servicio de internet deben ceñirse frente a sus usuarios a los principios de la libre elección y la no discriminación —o, en otras palabras, tienen que ser neutrales respecto de los contenidos que circulan por su infraestructura—, mientras que los intermediarios en línea gozarán de inmunidad legal frente al contenido que suban sus usuarios, a cambio de establecer reglas y sistemas para moderar las expresiones que se consideren ofensivas.
Este anexo, en segundo lugar, apunta que México cumplirá con las obligaciones del 19.17.3 de tal manera que sea consistente con su texto constitucional, en específico con los artículos 6º y 7º, relativos a la libertad de expresión y a la protección de instrumentos y medios para difundir opiniones, información e ideas. Es decir, México debe mantener la inmunidad legal respecto de los esquemas de moderación de expresiones que adopten las plataformas de internet, pero en sintonía con nuestra Constitución.
La última acotación del anexo 19-a del t-mec establece, en aras de dar más certeza a los alcances del artículo 19.17, que éste se sujetará al artículo 32.1, relativo a las excepciones generales del tratado comercial. Tal disposición, entre otras pautas, determina que, para los efectos del capítulo 19, la excepción a la inmunidad legal de las plataformas de internet, encaminada a proteger la moral pública, debe leerse de conformidad con el párrafo a del artículo xiv del t-mec sobre el comercio de servicios, que establece lo siguiente:
A reserva de que las medidas enumeradas a continuación no se apliquen en forma que constituyan un medio de discriminación arbitrario o injustificable entre países en que prevalezcan condiciones similares, o una restricción encubierta del comercio de servicios, ninguna disposición del presente acuerdo se interpretará en el sentido de impedir que un miembro adopte o aplique medidas:
a] necesarias para proteger la moral o mantener el orden público […] La excepción de orden público únicamente podrá invocarse cuando se plantee una amenaza verdadera y suficientemente grave para uno de los intereses fundamentales de la sociedad.
¿Cómo entender una amenaza al orden público en la conversación pública digital? ¿Cuáles serían, en concreto, algunos de estos riesgos? ¿Qué implica cumplir con la mencionada inmunidad legal de las redes sociales en concordancia con los artículos 6º y 7º del texto constitucional mexicano?
En cuanto a la protección legal de las plataformas de internet, es cierto que hay poco espacio para la interpretación, pues la inmunidad que establece el artículo 17.19 del t-mec es puntual e inequívoca. No obstante, el límite que introduce el artículo xiv del Acuerdo General sobre el Comercio de Servicios exige que se especifique qué se entiende por orden público y, en este sentido, cuáles serían las posibles amenazas, suficientemente graves para la sociedad mexicana, por parte de los procesos informativos de las redes sociales. Sumar algunas excepciones más a la inmunidad legal, derivadas de esta disposición, ayudaría a reducir ciertos costos sociales propios, por ejemplo, de la desinformación científica en situaciones de emergencia, pero además ofrecería certeza a las plataformas de internet respecto de los alcances y los límites del poder del Estado mexicano ante las potenciales excepciones a su inmunidad legal por el contenido que suben sus usuarios.
Sin embargo, en el segundo aspecto de esta fórmula regulatoria hay más espacio para una reglamentación legislativa, con fundamento en el anexo 19-a, según el cual las redes sociales gozan de protección jurídica mientras actúen de buena fe y hagan un genuino esfuerzo por moderar los contenidos indeseables. Por ello, para no pocos analistas, las posibilidades de recalibrar el esquema de incentivos de la cláusula del buen samaritano residen justo en delinear los criterios para definir una actuación de buena fe y un modelo de moderación responsable. Al respecto se podrían establecer lineamientos mínimos, derivados del texto constitucional, a los que deberían atarse los estándares comunitarios de contenido de cada plataforma, un listado de principios y reglas que, con fundamento en los artículos 6º y 7º de la Constitución, fijaran exigencias que deberían seguir las redes sociales.
Por otra parte, habría que partir de que algunas plataformas con enorme presencia en México, como Facebook, moderan los contenidos de manera enteramente centralizada, esto es, destinan una cantidad significativa de su personal a revisar todas las expresiones que circulan por su plataforma alrededor del mundo. En términos muy generales, como explicamos en su momento, el primer filtro son trabajadores subcontratados en países como la India o las Filipinas; luego, los casos más difíciles corresponden a otros en Irlanda o en Estados Unidos, ya contratados de manera directa por la empresa. Esto, como no es difícil de imaginar, genera problemas por la falta de conocimiento de este personal del español, así como del contexto histórico y cultural de México. En respuesta, las redes sociales con un número significativo de usuarios en el país podrían entrar en un esquema descentralizado de moderación de expresiones y establecer equipos de personas con la capacitación adecuada dedicadas en exclusiva a revisar las expresiones que circulan en sus plataformas dentro de la jurisdicción mexicana. En esta línea, también se podrían trazar metodologías, márgenes de error mínimos y obligaciones de transparencia respecto de los sistemas algorítmicos inteligentes que utilicen las redes sociales para la detección y la eliminación de contenidos.
Por último, también habría que replantear la manera en que se leen los incentivos de la protección que ofrece el artículo 19.17 del t-mec, de tal manera que las plataformas gocen de inmunidad si cumplen justo con su labor de buen samaritano al moderar las expresiones y, por lo tanto, deban demostrar que sus prácticas de moderación de contenido cumplen con los mínimos razonables respecto de los usos ilegales que sus usuarios hagan de los servicios que las redes ofrezcan. De esta manera, la pregunta ante los tribunales para mantener o no la inmunidad legal podría consistir en si un intermediario en línea que haya sido demandado empleó prácticas responsables de buena fe para moderar el contenido frente a una actividad ilegal por parte de un usuario que manifiestamente causó daño a otras personas.
Es debatible, por supuesto, si estas sugerencias regulatorias en efecto evitarían la violación del tratado comercial, pero sin duda México tiene una oportunidad para establecer una arquitectura mínima del sistema de expresiones digitales en el país, cuya relevancia en la conversación pública es cada día mayor. Si bien esta ventana de tres años para la entrada en vigor de la regulación de servicios informáticos interactivos se cerró en el verano de 2023, las acotaciones sustantivas establecidas en el anexo 19-a permiten una reglamentación mínima de esta disposición para afinar ciertos alcances de la inmunidad legal de las redes sociales y para puntualizar su responsabilidad frente al discurso público.
Vale mencionar que hasta 2022 se habían presentado en el Congreso mexicano cerca de veinte iniciativas sobre las redes sociales. Los temas que abarcan son variopintos: permitir la oposición y la rectificación de datos personales en las redes sociales; tipificar penalmente la inducción al suicidio mediante las plataformas de internet; crear conciencia sobre los riesgos del mal uso, como el comportamiento adictivo, de las redes sociales; establecer principios generales para la protección de la libertad de expresión en las redes sociales; proteger los derechos de los usuarios digitales, así como de los servicios digitales de intermediación…22 Algunas de estas iniciativas fundamentan sus propuestas justo a partir del capítulo 19 del t-mec, en concreto de su anexo 19-a; varias fueron elaboradas por algunas de las redes sociales con mayor presencia en el país y presentadas por legisladores cercanos a ellas, y sin duda hay propuestas que ofrecen planteamientos creativos y por demás responsables encaminados a proteger la labor de las redes sociales y a contener algunos de sus daños. Sin embargo, lo cierto es que a la fecha no se ha aprobado ninguna iniciativa relevante.
Un paréntesis final: en los últimos años se han impulsado cambios legislativos conocidos en los medios de comunicación en conjunto como Ley Olimpia —por el nombre de la principal activista que promovió esta agenda—. Pero se trata, en realidad, de un conjunto de reformas a los códigos penales de varias entidades federativas y al propio ordenamiento federal en esta materia, encaminadas a combatir la violencia digital y la ciberviolencia, uno de los daños más perniciosos que ocasionan las expresiones en el mundo en línea al utilizarse como instrumentos para la violencia. En términos generales, estos cambios establecen sanciones penales para quienes, por un lado, graben audios o imágenes reales o simuladas de contenido sexual íntimo de una persona, sin su consentimiento o mediante engaños, y, por el otro, expongan, distribuyan, difundan, reproduzcan u ofrezcan, entre otras conductas, tal material de manera impresa o mediante plataformas tecnológicas como mensajes de texto, redes sociales o correos electrónicos. Este tipo penal de violencia digital se redondea al contemplar también el daño psicológico, económico o sexual que estas conductas ocasionan a las víctimas, tanto en el ámbito privado como en el público, así como las afectaciones a su integridad, dignidad y vida privada.
La principal crítica, sin embargo, a este conjunto de reformas legislativas es que su objetivo se limita a las personas que realizan esas conductas, sin considerar en ningún caso la posible responsabilidad de los intermediarios en línea por la propagación de ese tipo de contenido, debido a un deficiente diseño e implementación de sus sistemas de moderación de expresiones. No está de más subrayarlo: repensar el esquema de incentivos de la inmunidad legal de la que gozan las plataformas de internet respecto del contenido que suben sus usuarios es clave para que, más allá de las responsabilidades penales individuales, se mejoren los sistemas de moderación y, de esta manera, las condiciones estructurales para combatir de manera más efectiva la violencia digital en el sistema digital.23
Ahora, y cerrado ya el paréntesis, es necesario detenerse en una de estas iniciativas legislativas que se han presentado en el Congreso mexicano sobre la libertad de expresión en línea. Se trata de un claro ejemplo de la falta de rumbo de la clase gobernante del país para ofrecer soluciones viables para proteger la esfera digital. En febrero de 2021 se presentó en el Senado de la República una propuesta legislativa para regular la libertad de expresión en las redes sociales, por parte de uno de los principales líderes en ese momento del grupo político mayoritario en el poder. Este documento despertó de inmediato el interés (y la preocupación) de diversos sectores académicos, de organizaciones de la sociedad civil y, por supuesto, de las plataformas de internet con presencia en México. Se trataba de una iniciativa que destacó por su pedestre planteamiento y sus rudimentarias ideas regulatorias. Van aquí tan sólo algunas de sus fallas.
En primer lugar, su definición de plataforma de internet, punto de partida clave para cualquier iniciativa legal de este tipo, era tan ambigua que en ella cabían desde videojuegos en línea hasta servicios de mensajería como WhatsApp, pasando por Instagram y YouTube, e inclusive plataformas como Yelp, que se dedica sobre todo a albergar reseñas de restaurantes y otros servicios escritas por sus usuarios. Esto es, por lo menos, problemático, pues tal concepción de red social permitía incluir intermediarios que no necesariamente influyen en el discurso público. Asimismo, esta propuesta determinó que las plataformas podían suspender o cancelar una cuenta cuyo contenido fuese de noticias falsas, ataques a la moral y al orden público, afectaciones a los derechos de menores de edad, perturbaciones al orden público, mensajes de odio, etcétera. Sin embargo, tales pautas ya se incluyen en la mayoría de los estándares comunitarios de los intermediarios en línea; por ello, más bien, el debate ha girado en torno a cómo, cuándo y a quién se les aplican. Aquí debió haberse discutido, por ejemplo, sobre informes de transparencia respecto de la implementación de las políticas de moderación de contenido de cada plataforma, pero eso no ocurrió. Por otra parte, esta iniciativa permitía que los intermediarios en línea utilizaran algoritmos para suspender cuentas, sin considerar los diversos problemas que hay en la moderación de contenido automatizada; sin embargo, fue del todo omisa respecto de cómo debería ser el uso de las herramientas algorítmicas para distribuir contenido dentro de cada red social, de la misma forma que tampoco se pronunció respecto del uso de los datos personales. La iniciativa se limitó a señalar que la protección de éstos debía realizarse conforme a la legislación del país, a pesar de que urge actualizar esta regulación para que ofrezca respuestas a asuntos medulares como qué experiencia digital puede convertirse en datos, qué datos pueden compartirse, a quién y con qué propósito puede hacerlo, o cómo distribuir en la sociedad el beneficio económico del uso de los datos personales.24
Con una enorme fuerza política detrás de ella y una aritmética legislativa del todo favorable, esta iniciativa evidenció la falta de conocimiento dentro de los poderes representativos de México para entender los problemas del mundo en línea y, peor aún, los caminos para una posible solución. Por fortuna, más allá del polvo que levantó, esta propuesta no fue aprobada. Y como el resto de las iniciativas en esta materia, al final apenas engrosó el archivo legislativo. La asignatura, por lo tanto, sigue pendiente: ¿cómo reinventar la libertad de expresión digital en un país como México?
Lo cierto es que establecer condiciones adecuadas para el sistema de expresiones digitales exige que México impulse políticas públicas atinadas en temas como datos agregados, publicidad digital, algoritmos… e inteligencia artificial. A diferencia de varias de las regiones y los países que hemos mencionado, la principal omisión de México está en la falta de una política nacional de inteligencia artificial, una de cuyas vertientes medulares sería la libertad de expresión, mas no la única.
En este sentido, a meses de concluir su administración, el presidente Enrique Peña Nieto (2012-2018) entregó un diagnóstico con miras a diseñar una estrategia de inteligencia artificial para el país. Se trataba de un documento elaborado con gran cuidado, en colaboración con organizaciones con buenas credenciales y que se enfocaba en dos grandes preguntas: ¿cómo debe prepararse México para atenuar los costos de la revolución de la inteligencia artificial?, ¿cuáles son los nichos de oportunidad, acordes con las características del país, ante este profundo cambio tecnológico? El esbozo de las respuestas que se ofrecían se basa en una sólida base empírica, la opinión de un conjunto plural de expertos y un interesante cruce de perspectivas económicas, legales y éticas. Sin duda, es debatible esta lectura positiva de ese documento, pero lo que es innegable es que se trataba de un punto de partida para el siguiente paso toral: confeccionar una política nacional sobre la inteligencia artificial.25 En los siguientes años, ha habido guiños y esfuerzos de ciertas instituciones públicas,26 pero la presidencia de Andrés Manuel López Obrador no ha destacado por guiarse por la curiosidad intelectual, ni muchos menos por una ponderación asertiva del valor de la ciencia y la tecnología en el futuro del país. El gobierno de López Obrador decidió darle la espalda desde 2018 a una de las transformaciones más profundas que está viviendo la humanidad en su historia: la que gravita justo alrededor de la digitalización y la inteligencia artificial.
Pero más allá del regodeo de nuestra clase política en su ignorancia voluntaria, el reto es el maltrecho Estado mexicano. Una estructura institucional que por un lado se mueve entre archipiélagos de modernidad, conectados con el mundo y con un horizonte en el devenir global, y por otro está partida en regiones, cada vez más grandes, sometidas a una lógica de barbarie y a nuevos modos de vida incubados en un tejido social rasgado.27 El Estado mexicano tiene el reto de cumplir en clave democrática con su primera gran responsabilidad, y su razón de existencia, que es proveer seguridad pública a sus habitantes, pero también debe aprovechar y limitar las ramificaciones de poder derivadas de la inteligencia artificial. ¿Cómo salir avante entre el salvajismo de la violencia y el feudalismo de las nuevas tecnologías? Ése es el desafío: consolidar un Estado democrático eficaz entre dos formas de poder del todo divergentes: el crimen organizado y la inteligencia artificial. El futuro y la genuina transformación de México dependen en buena medida de sortear este reto mayúsculo.
Saúl López Noriega
Profesor e investigador de la Escuela de Gobierno y Transformación Pública del Tecnológico de Monterrey. Editor de El Juego de la Suprema Corte.
1Clayton y Hoskins, “Elon Musk Takes Control of Twitter in $44bn Deal”.
2 Chotiner, “Why Elon Musk Bought Twitter”. Por supuesto, hay también una serie de especulaciones sobre los motivos por los que en realidad compró Twitter; véase al respecto Di Stefano, “Why Did Elon Musk (Really) Buy Twitter?”.
3Musk, “the bird is freed”.
4 Y que demuestran un profundo desconocimiento de lo que implica la gobernanza de las redes sociales; véanse Patel, “Welcome to Hell, Elon”, y Oremus, “How Social Media ‘Censorship’ Became a Front Line in the Culture War”.
5 Milmo, “Elon Musk Reinstates Donald Trump’s Twitter Account after Taking Poll”.
6 López Noriega, Democracia, poder y medios de comunicación.
7 Che et al., “How Elon Musk Became a Geopolitical Chaos Agent”.
8 Johnson, “Free Speech Is Whatever the Rich Say It Is”.
9 Holmes y Sunstein, The Cost of Rights.
10 Aquí puede verse el texto de ambas regulaciones: bit.ly/3R9atsb y bit.ly/3H7BeZm; y acá un par de análisis de las aportaciones que ofrece la Ley de Servicios Digitales: Vicent, “Google, Meta, and Other Will Have to Explain Their Algorithms under New EU Legislation”, y Andrade Rodríguez, “Europa y su nueva regulación digital”.
11 Por ejemplo, vale destacar, de manera particular, el Code of Practice on Disinformation de 2022, resultado de un arduo trabajo preparatorio con la industria. Las plataformas de internet que han suscrito este acuerdo, entre las cuales se encuentran las más importantes en Occidente, se comprometieron a tomar medidas en varios ámbitos, como desmonetizar la difusión de desinformación, garantizar la transparencia de la publicidad política, capacitar a los usuarios, mejorar la cooperación con los verificadores de hechos y facilitar a los investigadores un mejor acceso a los datos; se puede consultar aquí: bit.ly/3wE9Ey4.
12 En el ámbito local destaca la ley de estado de California sobre protección de datos personales: California Consumer Privacy Act, que entró en vigor el 1º de enero de 2020 (bit.ly/3kOmTtd); por su parte, en el ámbito federal estadounidense, el proceso legislativo ha sido más lento y, al cierre de la edición de este libro, si bien esta legislación ya fue aprobado por la Cámara de Representantes aún está pendiente que el Senado de ese país la ratifique, bajo el nombre de Digital Accountability and Transparency to Advance Privacy Act (bit.ly/3XHMKBL). Al respecto, véase Carpenter, “Joe Biden Wants Congress to Pass Federal Data Privacy Legislation”, y Propp, “Biden’s Call to Modernize US Tech Policy Would Pay Transatlantic Dividends”.
13 Roth, “Google Is Being Sued by the US Government and Eight States over Online Advertising”; aquí puede verse el texto de la demanda: bit.ly/3kLZQze.
14 Blueprint for an ai Bill of Rights.
15 Se trata de los casos Twitter v. Taamneh, Inc. (21-1496, bit.ly/3iz500X) y Gonzalez v. Google llc (21-1333, bit.ly/3vTBg1F).
16 Orozco y Villa y Muniz da Conceição, “Sleeping with Ghosts”.
17 Sobre un mapeo de las regulaciones y las decisiones judiciales en América Latina sobre este tema, véase Centro de Estudios en Libertad de Expresión y Acceso a la Información, de la Universidad de Palermo (bit.ly/3HxlRLk). Y aquí las políticas nacionales de inteligencia artificial de Argentina (bit.ly/3XHNkPQ), Chile (bit.ly/3R9sYN2) y Colombia (bit.ly/3JfH91h).
18 Aquí algunos sitios que dan seguimiento a los casos y las legislaciones que, con tinos y fallas, se han presentado alrededor del mundo sobre este tema y otros relacionados con la digitalización y la inteligencia artificial: Cullen International (bit.ly/3DknSIe), Global Freedom of Expression-University of Columbia (bit.ly/3DhHsom), Comisión Europea (bit.ly/3WBAL7n), Digital Constitutionalist. The Future of Constitutionalism (bit.ly/3wvZ507), Future Tense-Slate (bit.ly/3Hxs8Xm) y Verfassungsblog: On Matters Constitutional (bit.ly/3HyYz7D).
19 Estos datos y el análisis los obtuve de este excelente estudio: Trejo Delarbre, “El viraje al país digital”. Para otras fuentes relevantes de este tipo de datos, véanse algunos documentos del inegi, por ejemplo, su Encuesta Nacional sobre Disponibilidad y Uso de Tecnologías de la Información en los Hogares (bit.ly/3WS922x) y el Banco de Información de Telecomunicaciones del Instituto Federal de Telecomunicaciones (bit.ly/3HEZun7), así como los datos compilados por la consultoría The Social Intelligence Unit (bit.ly/3RhwZ22).
20 Para un análisis detallado al respecto, véase López Noriega, “El t-mec y la conversación pública digital”.
21 El artículo 145 de la lftr dice: “Los concesionarios y autorizados que presten el servicio de acceso a internet deberán sujetarse a los lineamientos de carácter general que al efecto expida el Instituto conforme a lo siguiente: i. Libre elección. Los usuarios de los servicios de acceso a internet podrán acceder a cualquier contenido, aplicación o servicio ofrecido por los concesionarios o por los autorizados a comercializar, dentro del marco legal aplicable, sin limitar, degradar, restringir o discriminar el acceso a los mismos. No podrán limitar el derecho de los usuarios del servicio de acceso a internet a incorporar o utilizar cualquier clase de instrumentos, dispositivos o aparatos que se conecten a su red, siempre y cuando éstos se encuentren homologados; ii: No discriminación. Los concesionarios y los autorizados a comercializar que presten el servicio de acceso a internet se abstendrán de obstruir, interferir, inspeccionar, filtrar o discriminar contenidos, aplicaciones o servicio; iii. Privacidad. Deberán preservar la privacidad de los usuarios y la seguridad de la red; iv. Transparencia e información. Deberán publicar en su página de internet la información relativa a las características del servicio ofrecido, incluyendo las políticas de gestión de tráfico y administración de red autorizada por el Instituto, velocidad, calidad, la naturaleza y garantía del servicio; v. Gestión de tráfico. Los concesionarios y autorizados podrán tomar las medidas o acciones necesarias para la gestión de tráfico y administración de red conforme a las políticas autorizadas por el Instituto, a fin de garantizar la calidad o la velocidad de servicio contratada por el usuario, siempre que ello no constituya una práctica contraria a la sana competencia y libre concurrencia; vii. Calidad. Deberán preservar los niveles mínimos de calidad que al efecto se establezcan en los lineamientos respectivos, y viii. Desarrollo sostenido de la infraestructura. En los lineamientos respectivos el Instituto deberá fomentar el crecimiento sostenido de la infraestructura de telecomunicaciones.” Por su parte, el 146 dice: “Los concesionarios y los autorizados deberán prestar el servicio de acceso a internet respetando la capacidad, velocidad y calidad contratada por el usuario, con independencia del contenido, origen, destino, terminal o aplicación, así como de los servicios que se provean por internet, en cumplimiento de lo señalado en el artículo anterior.”
22 Regulación de las redes sociales: elementos para su análisis. Marco teórico conceptual, modelos de regulación, lineamientos internos, derecho comparado, e iniciativas presentadas.
23 Al respecto, véase Gómez, “Violencia sexual digital”.
24 López Noriega, “10 errores de la iniciativa para regular las redes sociales del senador Monreal”.
25 Towards an ai Strategy in Mexico.
26 En el sexenio de López Obrador, la Cancillería ha impulsado y participado, entre otros esfuerzos, en la iniciativa Alianza Global sobre Inteligencia Artificial (puede consultarse aquí: gpai.ai). Es importante considerar a su vez el siguiente balance: “Desafortunadamente, México todavía tiene pendiente en el 2023 (espero) implementar una agenda nacional de inteligencia artificial que permita insertarnos como país en estos temas. Entre los pasos en esta dirección llama la atención una iniciativa reciente del diputado Justino Eugenio Arriaga Rojas, quien ha propuesto reformar el artículo 39 de la Ley Orgánica del Congreso General a fin de crear la Comisión de Inteligencia Artificial y Ciberseguridad, como un órgano especializado en la Cámara de Diputados. Si bien a la fecha de este artículo la iniciativa está pendiente de publicación en la Gaceta Parlamentaria, el diputado Rodrigo Sánchez señaló en su presentación la relevancia de legislar para hacer frente a los retos que plantea la ia, así como la necesidad de que el Poder Legislativo cuente con órganos especializados para ello. Una expectativa adicional para 2023 es el funcionamiento de la Comisión Intersecretarial de Tecnologías de la Información y Comunicación y de la Seguridad de la Información, que el Ejecutivo federal echó a andar el 10 de enero pasado como un ‘mecanismo de coordinación y conducción colegiada de acciones para la implementación de las políticas federales en materia de tecnologías de la información y comunicación, y de la seguridad de la información’. En ella participarán la administración pública federal y, como invitados (con voz, pero sin voto), representantes de órganos constitucionales autónomos, el Poder Judicial, el Congreso de la Unión e incluso de los gobiernos de las entidades federativas y de los municipios o demarcaciones territoriales de la Ciudad de México, además de representantes de los sectores académico, social y privado. Dada su conformación, y toda vez que en México no tenemos una autoridad única con facultades en todos los ámbitos potencialmente impactados, esta comisión intersecretarial puede convertirse en el entorno que permita sentar a los múltiples actores relevantes que tienen una pieza para armar, con cierto dinamismo, el rompecabezas de la política pública en tic y seguridad de la información con un impacto transversal.” Véase Cicero Arenas, “México en el tablero geopolítico de las tecnologías emergentes, ¿cómo vamos?”.
27 Lomnitz, El tejido social rasgado.