"Facebook quiere que creas que los problemas de los que hablamos son
irresolubles. Quieren que creas que debes elegir entre conectarte con
tus seres queridos y tu privacidad personal. Que para compartir fotos
divertidas de tus hijos también debes ser inundado con desinformación.
Quieren que creas que esto es simplemente parte del trato. Hoy estoy
aquí para decir que eso no es cierto".
Son
las palabras con las que la extrabajadora de Facebook Frances Haugen ha
abierto su comparecencia en el Senado de EEUU este martes. La
subcomisión de protección del consumidor ha solicitado su comparecencia
después de que esta ingeniera informática de 37 años enviara numerosa
documentación interna de la compañía que dirige Mark Zuckerberg a los
senadores y a periodistas del Wall Street Journal.
La
filtración ha mostrado no solo que Facebook sabe que tiene un impacto
tóxico en la sociedad, sino que en muchas ocasiones su cúpula directiva
no hace nada por remediarlo y trata de ocultar la situación ante
investigaciones externas. "Los documentos que he proporcionado al Senado
prueban que Facebook ha engañado al público reiteradamente sobre lo que
su propia investigación revela acerca de la seguridad de los niños, la
eficacia de su inteligencia artificial y su papel para expandir mensajes
divisorios y extremistas", ha manifestado Haugen ante los senadores.
Lo comparecencia de la extrabajadora de
Facebook ha arrojado luz sobre las prácticas internas de la compañía y
del rol que ejerce Zuckerberg en ella. Los senadores han centrado sus
preguntas en el potencial dañino de Instagram para los adolescentes, a
raíz de un estudio elaborado por investigadores de la red social y
revelado por Haugen que concluía que esta plataforma hace que un tercio
de sus usuarias menores de edad
tengan una peor imagen de su cuerpo. Pero sus cuestiones han
incidido también en cómo sus algoritmos empujan la polarización de la
esfera pública o la necesidad de intervenir antes de que sea "demasiado
tarde".
Estas son algunas de las claves de la
comparecencia de Haugen:
La opacidad de Facebook y el tabaco
"Facebook elige la información que ven
miles de millones de personas, configurando su percepción de la
realidad. Incluso los que no usan Facebook se ven afectados por la
radicalización de las personas que sí lo hacen. Una empresa con control
sobre nuestros pensamientos más profundos, sentimientos y
comportamientos necesita una supervisión real. Pero el diseño cerrado de
Facebook significa que no tiene supervisión, ni siquiera de su propia
Junta de Supervisión, que es tan ciega como el público".
"Sólo Facebook sabe cómo personaliza tu
feed. Lo esconde detrás de unos muros que mantienen alejados los
ojos de los investigadores y los reguladores para evitar que entiendan
la verdadera dinámica del sistema. Cuando las tabacaleras afirmaron que
los cigarrillos con filtro eran más seguros para los consumidores, los
científicos pudieron invalidar de forma independiente ese mensaje de
marketing y confirmar que, de hecho, suponían una mayor amenaza para la
salud humana. Pero hoy en día no podemos hacer este tipo de
investigación independiente de Facebook. Tenemos que confiar en que lo
que dice Facebook es cierto, pero ellos han demostrado repetidamente que
no merecen nuestra confianza".
Facebook sabe que al menos un 5% de los
usuarios de 14 años son adictos a Instagram
"Facebook ha estudiado un patrón que
ellos llaman uso problemático, pero que nosotros podríamos
llamar simplemente adicción. Pone un listón muy alto para considerar que
tú identificas que no tienes control sobre tu uso de la plataforma y que
está perjudicando tu salud, tu rendimiento escolar o tu salud física.
Aún así, entre el cinco y el seis por ciento de los jóvenes de 14 años
tienen la autoconciencia de admitir esas dos cuestiones. Es probable que
mucho más de ese cinco o seis por ciento de los jóvenes de 14 años sean
adictos a Instagram".
Una inteligencia
artificial que falla
"Los algoritmos de Facebook promueven
contenidos basándose en las interacciones que consiguen. Facebook piensa
que puede hacerlo con seguridad porque tienen la inteligencia
artificial, que encontrará los contenidos nocivos que saben que su
ranking basado en las interacciones está promoviendo. Han escrito
artículos en su blog sobre cómo saben que los rankings basados en las
interacciones son peligrosos. Pero confían que la IA los salvará. La
propia investigación de Facebook dice que no pueden identificar
adecuadamente el contenido dañino, y como resultado, esos algoritmos
peligrosos generan polarización y división. No pueden protegernos de los
daños que saben que existen en su propio sistema".
"No creo que esto sea sólo una cuestión
de decir si la gente debería tener la opción de elegir no ser manipulada
por sus algoritmos. Creo que si tuvieran una supervisión adecuada, o si
hiciéramos a Facebook responsable de las consecuencias de sus
algoritmos, se desharían de esas clasificaciones basadas en las
interacciones. Esos algoritmos están haciendo que los adolescentes estén
expuestos a más contenido de anorexia. Está separando a las familias y,
en lugares como Etiopía, está literalmente avivando la violencia étnica.
Yo animo a reformar estas plataformas, no escogiendo ideas individuales,
sino haciendo que las propias plataformas sean más seguras, menos
reactivas, menos virales".
El papel de Mark Zuckerberg
"Mark tiene un papel muy único en la
industria de la tecnología porque tiene más del 55% de todas las
acciones con derecho a voto en la junta directiva de Facebook. No hay
otras grandes empresas en la que el poder se reparta de forma similar,
tan unilateralmente controladas. Y al final, la responsabilidad recae de
todo en Mark. Actualmente no hay nadie que haga responsable a Mark de
sus propias acciones".
"Yo obtuve un MBA de Harvard, y nos
recalcan que somos responsables de las organizaciones que construimos.
Mark ha construido una organización muy orientada a las métricas. Se
pretende que sea plana. No hay responsabilidad unilateral. Las métricas
toman la decisión. Desafortunadamente, eso mismo es una decisión. Y al
final, si él es el CEO y el presidente de Facebook, él es responsable de
esas decisiones. La responsabilidad recae en él".
"Me sorprendería sinceramente que no
siguieran con el proyecto de Instagram Kids, y me sorprendería que
dentro de un año no volviéramos a tener esta conversación. Por eso
Facebook entiende que si quieren seguir creciendo, tienen que encontrar
nuevos usuarios. Tienen que asegurarse de que la próxima generación está
tan comprometida con Instagram como la actual. Y la forma en que lo
harán es asegurándose de que los niños establezcan hábitos para que
tengan una buena autogestión".
"Los documentos internos de Facebook
hablan de la importancia de conseguir usuarios más jóvenes, por ejemplo
los preadolescentes con Instagram Kids, porque entienden su valor para
el éxito a largo plazo de Facebook"
Por qué decidió filtrar los documentos
internos
"Me uní a Facebook en 2019 porque
alguien cercano a mí se radicalizó en Internet. Me sentí obligada a
tomar un papel activo en la creación de un Facebook mejor y menos
tóxico. Durante mi tiempo en Facebook, primero trabajando como jefa de
producto de Integridad Cívica y más tarde en Contraespionaje, vi que
Facebook se encontraba repetidamente con conflictos entre sus propios
beneficios y nuestra seguridad. Facebook resolvió sistemáticamente esos
conflictos a favor de sus propios beneficios. El resultado ha sido un
sistema que amplifica la división, el extremismo y la polarización, y
socava las sociedades de todo el mundo. En algunos casos, esto ha
conducido a una violencia real que daña e incluso mata a personas. En
otros casos, su máquina de optimización de beneficios está generando
autolesiones y problemas con la propia imagen, especialmente para los
grupos vulnerables, como las adolescentes. Estos problemas han sido sido
confirmados repetidamente por la propia investigación interna de
Facebook".
"Creo que lo que hice fue correcto y
necesario para el bien común, pero sé que Facebook tiene recursos
infinitos que podría utilizar para destruirme. Di el paso porque
descubrí una verdad aterradora: casi nadie fuera de Facebook sabe lo que
ocurre dentro de Facebook. La dirección de la empresa oculta información
vital al público, al Gobierno de Estados Unidos, a sus accionistas y a
los gobiernos de todo el mundo. Los documentos que he proporcionado
demuestran que Facebook nos ha engañado repetidamente sobre lo que sus
propias investigaciones revelan acerca de la seguridad de los niños, su
papel en la difusión de mensajes de odio y polarización, y mucho más".