Publicado en La Tinta el 18-04-2019
“Derecho al algoritmo” es la expresión con que la investigadora costarricense Kemly Camacho resumía parte de las discusiones que se suscitaron en Montevideo durante el Encuentro de Investigadores sobre Apropiación de Tecnologías en noviembre de 2018.Esta idea de derecho al algoritmo manifiesta la preocupación de un conjunto de activistas por el rumbo que está tomando la virtualidad, y puede englobarse bajo la designación genérica de derechos digitales. ¿Qué derechos tenemos quienes utilizamos los recursos digitales, en particular Internet? La respuesta a esta pregunta está en construcción. Pero requiere como mínimo que la sociedad en su conjunto, pero en particular los y las usuarias de Internet y de dispositivos que utilizan esta u otras redes que conectan computadoras, comprendan, por ejemplo, qué es un algoritmo, big data, inteligencia artificial, machine learning. Y que se entienda también que estas palabras no son un asunto de los informáticos exclusivamente, sino que repercuten en nuestra manera de entretenernos, de comer, vestirnos, formarnos una opinión sobre el mundo en que vivimos, de vincularnos, enamorarnos, elegir nuestros representantes, educarnos, informarnos, etc.
El algoritmo de Facebook
Desde hace varios meses circula en la red social más popular del mundo una leyenda que dice más o menos que el algoritmo de Facebook ha cambiado y es por ello que, si no le adviertes a tus amigos que te envíen un saludo o señal, en adelante no podrás ver sus publicaciones ni viceversa (parece que si no tienes noticias de tus amigos por largo tiempo, es culpa del nuevo algoritmo de esa red social).
En los primeros meses de 2018 se destapó un escándalo de enormes proporciones en el que Facebook estuvo en el ojo de la tormenta: la “filtración” de datos de 87 millones de usuarios de esa red que fueron a parar a manos de la empresa Cambridge Analítica (CA) sin que hubiera una aprobación expresa de parte de los propios usuarios. Aún no está suficientemente clara la verdadera responsabilidad de Facebook. Si vendieron/pusieron a disposición los datos o si se trató de una falla en la seguridad.
Uno de los principales directivos de CA Christopher Wylie, luego de denunciar la maniobra ante el Comité de Cultura y Medios de la Cámara de los Comunes británica, declaró a la prensa que él tomó conciencia tardíamente de las dimensiones negativas de lo que estaba haciendo. Además, y esto es claramente alarmante, declaró: “que una compañía que tiene clientes militares genere una enorme base de datos de ciudadanos, algunos de ellos recogidos ilegalmente, produce un grave riesgo de borrar las fronteras entre vigilancia doméstica e investigación de mercado convencional”.
El uso indiscriminado y antitético de los datos de usuarios de internet que se generan, almacenan y distribuyen es tan grave que hace pocos días hasta el mismísimo Mark Zuckerberg -creador de la red social Facebook-, a través de su cuenta, solicitó una mayor intervención de los gobiernos para la regulación de la red de redes. A su vez, según el empresario informático, esas regulaciones debieran ser comunes para todos los países, y abarcar cuatro áreas principales: contenido dañino, integridad electoral, privacidad, y portabilidad de datos. La punta del ovillo parecen ser los datos. Y tus “me gusta”, oro en polvo.
La vigilancia digital y la necesidad de protección de los datos son temas emergentes que vienen marcando fuertemente la agenda y acción de los movimientos sociales que se ocupan de los derechos humanos en internet, tales como el feminismo y el hackerismo.
Como dijimos, los datos no tienen mayor significado cuando están almacenados en una gran base. Hay que hacerlos inteligibles. Y para eso están los algoritmos.
¿Qué es qué?
Para empezar, y sabiendo que la definición de los términos es muchísimo más compleja, se puede decir que los algoritmos son un conjunto de instrucciones, de reglas que permiten ofrecer una respuesta, arribar a la solución de un problema. En informática, esa respuesta o solución está asociada en general al modo en que se organiza una enorme cantidad de datos (big data), lo que hace que esos datos tengan sentido: se conviertan en información. Es decir, si tenemos una gran masa de datos en una base (de datos), la única manera de que nos resulte útil es si logramos organizarla y presentarla de acuerdo a un interés específico. Un algoritmo, en tanto secuencia de pasos -instrucciones- que un sistema informático debe seguir, hace precisamente eso: extrae información y la hace comprensible según el interés de un usuario.
Machine learning es la capacidad que poseen los sistemas informáticos de aprender a partir de la información con la que van tomando contacto, y se vincula con la inteligencia artificial precisamente por ello, porque hace que las máquinas desarrollen un “comportamiento” inteligente independientemente de que un ser humano esté conduciendo cada paso.Vamos de nuevo. Dada una gran masa de datos (big data) generados por los usuarios a partir de la navegación por páginas webs y uso de aplicaciones, los algoritmos son un conjunto de instrucciones a través de las cuales el sistema informático analiza, organiza, selecciona y presenta de manera comprensible esos datos, en un proceso que tiende a perfeccionarse a medida que la capacidad de auto-aprendizaje de las máquinas las hace más eficientes y precisas, a los fines de quién hará un uso o usufructo de la información procesada.
La fiebre del oro
Decíamos antes que los datos son oro en polvo, que vienen desatando una especie de guerra. ¿Qué datos son los que interesan? Lo que pensamos, lo que nos gusta, lo que comemos y a qué restaurantes vamos, la música que escuchamos, nuestras opiniones, etc. ¿Para qué? Para seguir vendiéndonos productos e ideas políticas. Los y las usuarias no somos conscientes del valor económico que representan los datos que generamos cada vez que navegamos o cliqueamos un me gusta, o hacemos una compra virtual. No solamente no somos conscientes; algunas veces, ni siquiera queremos saber. Y otras veces, aún sabiendo, preferimos permanecer indiferentes.
Como lo advierte el filósofo Eric Sadin, se ha creado una especie de humanidad paralela, constituida por el universo de los datos, acompañado de un movimiento de “delegación” no siempre deliberado por parte de los usuarios, hacia “sistemas intuitivos” -las computadoras- comandados por las grandes corporaciones. La fascinación embriagadora de participar de la “virtualidad tecnológica” nos impide desatar los nudos de las redes, de las que en ocasiones sería saludable escabullirse.
Pensemos en las generaciones más jóvenes, el nivel de angustia y ansiedad que suele producir no ser reconocidos por los pares, las marcas en la autoestima que la aprobación, desaprobación o indiferencia social les genera. Las redes sociales se han vuelto imprescindibles para la construcción de identidades, y sin embargo, como advierte Carl Onoré, “nadie dice en su lecho de muerte ‘ojalá hubiera pasado más tiempo en Facebook’”.
Precisamente, un camino frente a tantos análisis negativos respecto a la Internet y las redes sociales, es lo que sugiere Jaron Lanier, un informático de Silicon Valley, en su libro Diez argumentos para borrar tus cuentas de redes sociales en este momento. Dice Lanier: “en realidad, conozco los algoritmos. No soy un extraño que mira y critica… hablo como científico informático”. Desde ese lugar, Lanier sostiene que los algoritmos de los gigantes de datos han creado un nuevo modelo en el que el producto a comercializar es el comportamiento de los usuarios. Algunos de los 10 argumentos de Lanier para dejar las redes sociales, son:
1. Estás perdiendo tu libre albedrío.
2. Las redes sociales están minando la verdad.
3. Las redes sociales están haciendo que lo que dices no importe.
4. Las redes sociales están destruyendo tu capacidad de empatía.
5. Las redes sociales están haciendo que la política sea imposible.
Los directivos de las principales empresas informáticas de Silicon Valley envían a sus hijos a escuelas donde no entran las computadoras, como la Waldorf Peninsula: “Lo que detona el aprendizaje es la emoción, y son los humanos los que producen esa emoción, no las máquinas. La creatividad es algo esencialmente humano. Si le pones una pantalla a un niño pequeño limitas sus habilidades motoras, su tendencia a expandirse, su capacidad de concentración”, afirma Pierre Laurent, que trabajó en Microsoft, Intel y está hoy vinculado a la gestión de la escuela.
Otro camino posible (y no necesariamente excluyente de los anteriores), es lo que estamos promoviendo desde hace más de una década, muchos investigadores y activistas en el mundo: la apropiación de tecnologías. Una de las apuestas centrales de la apropiación es lo que se ha comenzado a transitar respecto de los derechos digitales. Esto es el derecho de todos los ciudadanos a prestar un consentimiento de uso de datos más informado, cuando los utilizan empresas y gobiernos para otros fines que los de facilitar la navegación. Derecho a no ser invadidos de manera coactiva por publicidades mientras navegamos en la web. Derecho a que los perfiles que se elaboran sobre las personalidades de los usuarios y usuarias, no sean utilizados para la producción de publicidad engañosa y noticias falsas.
Cuestiones referidas a la propiedad intelectual, libertad de expresión, neutralidad de la red y protección de datos personales, entre muchos otros. Derecho a que la información con la que tomamos contacto en buscadores o redes, no esté limitada y condicionada a los perfiles que los propios algoritmos construyen como cárceles acentuando la homogeneización, sino que por el contrario, se garantice la diversidad, el dialogo intercultural, la pluralidad de la información y del conocimiento que circula en Internet.
Cómo citar este artículo
Morales, S. (2020). Derechos digitales. La Tinta. Publicado el 18/04/2019. Disponible en: https://latinta.com.ar/2019/04/derechos-digitales/