DragoRiseТекст на испанском: «Carta para quien la lea en 2050»
Carta para quien la lea en 2050
Querida nieta (o nieto, o quien seas):
Te escribo en 2026, cuando todavía discutimos si las máquinas piensan. Para cuando abras esta carta, la pregunta probablemente habrá perdido todo interés, o se habrá resuelto de un modo que hoy ni siquiera sabríamos formular.
Te cuento cómo era esto. Cada semana aparecía una red neuronal capaz de escribir, dibujar o diagnosticar mejor que la anterior, y los periódicos nos advertían de que el aprendizaje automático sustituiría a millones de oficinistas. Algunos profetas anunciaban la singularidad para dentro de una década; otros juraban que todo era una burbuja. Yo, que no me fiaba de ninguno de los dos bandos, me limitaba a pedir que alguien me explicara cómo llegaban esos sistemas a sus conclusiones.
Porque eso era lo que más nos inquietaba: la opacidad. Les confiábamos préstamos, contrataciones e incluso sentencias y, sin embargo, funcionaban como una caja negra. Si los datos con que se entrenaban estaban sesgados, las decisiones también lo estaban, y nadie podía demostrarlo. Hubo quien exigió que toda automatización de decisiones importantes quedara sometida a supervisión humana y que se establecieran salvaguardas legales; hubo quien lo consideró un freno al progreso.
No sé quién habrá ganado esa discusión. Espero que, cuando leas esto, la fiabilidad de las máquinas se dé por supuesta y que mis miedos te parezcan tan obsoletos como el fax. Pero si no fuera así, recuerda que nada de esto era inevitable: fueron personas quienes decidieron cómo se haría.
Tu abuela
Перевод на русский
Дорогая внучка (или внук, или кто бы ты ни был)!
Пишу тебе в 2026 году, когда мы ещё спорим, думают ли машины. К тому времени, как ты откроешь это письмо, вопрос, вероятно, уже утратит всякий интерес — или разрешится так, как мы сегодня даже не сумели бы сформулировать.
Расскажу, как всё было. Каждую неделю появлялась нейросеть, которая писала, рисовала или ставила диагнозы лучше предыдущей, а газеты предупреждали, что машинное обучение заменит миллионы офисных служащих. Одни пророки предсказывали сингулярность через десять лет, другие клялись, что всё это пузырь. Я не доверяла ни тем, ни другим и лишь просила, чтобы кто-нибудь объяснил мне, как эти системы приходят к своим выводам.
Ведь больше всего нас тревожила именно непрозрачность. Мы доверяли им кредиты, приём на работу и даже приговоры — и всё же они работали как чёрный ящик. Если данные, на которых их обучали, были предвзятыми, то и решения оказывались предвзятыми, и никто не мог этого доказать. Одни требовали, чтобы любая автоматизация важных решений находилась под контролем человека и чтобы были введены правовые гарантии; другие считали это тормозом прогресса.
Не знаю, кто к тому времени победит в этом споре. Надеюсь, что, когда ты будешь это читать, надёжность машин будет считаться чем-то само собой разумеющимся, а мои страхи покажутся тебе такими же устаревшими, как факс. Но если это не так, помни: ничто из этого не было неизбежным. Как всё будет устроено, решали люди.
Твоя бабушка
Вопросы к тексту
Ответы
- ¿Qué supone la autora sobre el debate de si las máquinas piensan? — Que para entonces probablemente habrá dejado de interesar
- ¿Cuál era la postura de la autora ante los profetas y los escépticos? — Desconfiaba de ambos y quería, sobre todo, entender cómo decidían los sistemas
- Según la carta, ¿por qué era tan grave la opacidad de los sistemas? — Porque las decisiones injustas no podían detectarse ni probarse
- ¿Qué mensaje quiere transmitir la abuela al final? — Que el rumbo de la tecnología dependía de decisiones humanas
Слова из текста
el aprendizaje automático — машинное обучение; sustituir — заменить; la singularidad — сингулярность; la automatización — автоматизация; la red neuronal — нейронная сеть, нейросеть; oficinista — офисный служащий; la burbuja — пузырь (финансовый, ажиотажный); пузырёк; la salvaguarda — гарантия, защитная мера; la contratación — наём, приём на работу; el freno — тормоз; сдерживающий фактор; dar por supuesto — считать само собой разумеющимся; obsoleto — устаревший.