The Black Box Society : The Secret Algorithms That Control Money and Information

Abstract

Cada día, las corporaciones conectan los puntos sobre nuestro comportamiento personal, analizando silenciosamente las pistas que dejan nuestros hábitos laborales y el uso de Internet. Los datos recopilados y los perfiles creados son increíblemente detallados, hasta el punto de ser invasivos. Pero, ¿quién conecta los puntos sobre qué hacen las empresas con esta información? La Black Box Society argumenta que todos debemos ser capaces de hacerlo, y de establecer límites sobre cómo el big data afecta nuestras vidas. Los algoritmos ocultos pueden crear (o arruinar) reputaciones, decidir el destino de los emprendedores o incluso devastar una economía entera. Envueltos en el secretismo y la complejidad, las decisiones en las principales empresas de Silicon Valley y Wall Street se consideraron durante mucho tiempo neutrales y técnicas. Pero las filtraciones, los denunciantes y las disputas legales han arrojado nueva luz sobre el juicio automatizado. El comportamiento egoísta e imprudente es sorprendentemente común y fácil de ocultar en código protegido por el secreto legal y real. Incluso después de que se hayan impuesto multas multimillonarias, los reguladores, con escasos recursos, tal vez solo hayan arañado la superficie de este comportamiento preocupante. Frank Pasquale expone cómo los poderosos intereses abusan del secretismo para obtener beneficios y explica cómo controlarlos. Exigir transparencia es solo el primer paso. Una sociedad inteligible garantizaría que las decisiones clave de sus empresas más importantes sean justas, no discriminatorias y abiertas a la crítica. Silicon Valley y Wall Street deben asumir tanta responsabilidad como la que imponen a los demás.