Текст на испанском: «¿Quién vigila al algoritmo?»
¿Quién vigila al algoritmo?
En 2020, un hombre de Detroit fue detenido por un delito que no había cometido. El culpable no fue un policía despistado, sino un sistema de reconocimiento facial que lo había confundido con otra persona. Con una revisión humana más rigurosa, el error se habría detectado a tiempo.
Casos como este muestran que la inteligencia artificial no es neutral. Un algoritmo aprende de los datos que le damos, y si esos datos reflejan prejuicios, el resultado tendrá el mismo sesgo. Por eso cada vez más expertos reclaman una regulación que obligue a las empresas a explicar cómo toman decisiones sus sistemas.
La transparencia, sin embargo, no basta. También preocupa la vigilancia masiva y la falta de privacidad en el uso de nuestros datos personales. ¿Cuántos de nosotros habríamos aceptado las condiciones de una aplicación si las hubiéramos leído de verdad? El consentimiento que damos con un clic es, en muchos casos, una ficción.
Nadie propone renunciar a la tecnología: automatizar tareas repetitivas ahorra tiempo y dinero. Pero necesitamos instituciones que puedan auditar estos sistemas y responsables que rindan cuentas cuando algo falla. De lo contrario, dentro de unos años nos preguntaremos por qué no lo habíamos previsto.
Перевод на русский
В 2020 году в Детройте задержали мужчину за преступление, которого он не совершал. Виноват был не рассеянный полицейский, а система распознавания лиц, которая перепутала его с другим человеком. При более тщательной проверке человеком ошибку обнаружили бы вовремя.
Подобные случаи показывают, что искусственный интеллект не нейтрален. Алгоритм учится на данных, которые мы ему даём, и если эти данные отражают предрассудки, результат будет так же предвзят. Поэтому всё больше экспертов требуют регулирования, которое обязало бы компании объяснять, как их системы принимают решения.
Однако одной прозрачности недостаточно. Беспокоит также массовая слежка и отсутствие конфиденциальности при использовании наших персональных данных. Сколько из нас приняли бы условия приложения, если бы действительно их прочитали? Согласие, которое мы даём одним кликом, во многих случаях — фикция.
Никто не предлагает отказаться от технологий: автоматизация рутинных задач экономит время и деньги. Но нам нужны институты, способные проверять эти системы, и ответственные лица, которые будут отвечать, когда что-то идёт не так. Иначе через несколько лет мы будем спрашивать себя, почему не предвидели этого.
Вопросы к тексту
Ответы
- ¿Qué demuestra el caso de Detroit según el autor? — Que confiar ciegamente en una máquina puede tener consecuencias graves
- ¿De dónde procede el sesgo de un algoritmo? — De los datos con los que se entrena
- ¿Qué opina el autor sobre el consentimiento que damos en las aplicaciones? — Que a menudo no es real, porque no leemos las condiciones
- ¿Cuál es la postura general del texto? — La tecnología es útil, pero necesita control y responsables
Слова из текста
la inteligencia artificial — искусственный интеллект; el algoritmo — алгоритм; la privacidad — конфиденциальность, приватность; el sesgo — предвзятость, искажение; la vigilancia — слежка, наблюдение; el datos personales — персональные данные; automatizar — автоматизировать; la regulación — регулирование; la transparencia — прозрачность; rendir cuentas — отчитываться, нести ответственность; el consentimiento — согласие; el reconocimiento facial — распознавание лиц.