Текст на испанском: «Una máquina no puede pedir perdón»
Una máquina no puede pedir perdón
Hace unos años, una gran empresa tecnológica tuvo que abandonar un sistema que había desarrollado para seleccionar currículos. El programa, entrenado con las solicitudes recibidas durante la década anterior, en su mayoría de hombres, había aprendido a discriminar a las candidatas. Nadie lo había programado así; simplemente, los datos estaban sesgados y la máquina los imitó con una eficacia impecable.
El caso se cita a menudo como ejemplo de sesgo algorítmico, pero revela un problema más profundo: la opacidad. Muchos de los sistemas que hoy deciden quién recibe un préstamo o una entrevista de trabajo funcionan como una caja negra. Ni siquiera sus creadores pueden explicar con detalle por qué el modelo llegó a una conclusión concreta, y su comportamiento ante situaciones nuevas resulta a veces imprevisible.
¿Cómo regular algo así? La Unión Europea aprobó en 2024 una ley que clasifica los usos de la inteligencia artificial según su riesgo. Sus defensores sostienen que ningún sistema de alto riesgo debería utilizarse a menos que pueda auditarse y cuente con supervisión humana. Sus críticos temen que tanta norma frene la innovación. Quizá unos y otros tengan parte de razón.
Lo que parece claro es que la responsabilidad no puede delegarse en una máquina. Si una voz sintética sirve para suplantar a una persona y estafar a su familia, alguien tiene que responder. Sin rendición de cuentas, la tecnología se convierte en la excusa perfecta: «lo decidió el algoritmo».
Ojalá dentro de unos años miremos atrás y veamos esta época como aquella en la que aprendimos a poner límites a tiempo. Y ojalá no tengamos que lamentar no haberlo hecho.
Перевод на русский
Несколько лет назад крупной технологической компании пришлось отказаться от системы, которую она разработала для отбора резюме. Программа, обученная на заявках за предыдущее десятилетие, по большей части мужских, научилась дискриминировать кандидаток. Никто её так не программировал: просто данные были предвзятыми, и машина безупречно их скопировала.
Этот случай часто приводят как пример алгоритмической предвзятости, но он обнажает более глубокую проблему — непрозрачность. Многие системы, которые сегодня решают, кто получит кредит или приглашение на собеседование, работают как чёрный ящик. Даже их создатели не могут подробно объяснить, почему модель пришла к тому или иному выводу, а в новых ситуациях её поведение порой оказывается непредсказуемым.
Как регулировать подобное? В 2024 году Евросоюз принял закон, который классифицирует применение искусственного интеллекта по степени риска. Его сторонники утверждают, что ни одну систему высокого риска нельзя использовать, если её нельзя проверить и если над ней нет контроля человека. Критики опасаются, что такое количество норм затормозит инновации. Возможно, отчасти правы и те и другие.
Ясно одно: ответственность нельзя переложить на машину. Если синтезированный голос позволяет выдать себя за человека и обмануть его родных, кто-то должен за это ответить. Без подотчётности технология становится идеальным оправданием: «так решил алгоритм».
Хочется надеяться, что через несколько лет мы оглянемся назад и увидим в нашем времени ту эпоху, когда мы вовремя научились ставить границы. И что нам не придётся жалеть, что мы этого не сделали.
Вопросы к тексту
Ответы
- ¿Por qué el sistema de selección discriminaba a las mujeres? — Porque había aprendido de datos sesgados
- Según el autor, ¿qué problema más profundo revela el caso? — La falta de transparencia de muchos sistemas
- ¿Qué postura adopta el autor ante el debate sobre la ley europea? — Cree que defensores y críticos pueden tener algo de razón
- ¿Qué idea defiende el autor sobre la responsabilidad? — Que siempre tiene que haber personas que respondan
Слова из текста
sesgado — предвзятый, необъективный; la supervisión — надзор, контроль; la rendición de cuentas — подотчётность; la opacidad — непрозрачность; discriminar — дискриминировать; la caja negra — чёрный ящик; el sesgo algorítmico — алгоритмическая предвзятость; suplantar — выдавать себя за (другого); la responsabilidad — ответственность; regular — так себе; auditar — проверять, проводить аудит; imprevisible — непредсказуемый.