Сто лет назад и сегодня
"В два часа утра двое венгров забрались в табачную лавку на углу Пятнадцатой улицы и Гранд-авеню. Древитс и Бойл приехали туда в Форде из полицейского участка на Пятнадцатой улице. Грузовик венгров как раз выезжал задним ходом из тупичка.
Бойл застрелил сначала сидевшего в кабине, потом – того, который был в грузовике. Древитс испугался, когда увидел, что они убиты наповал.
– Стой, Джимми, – сказал он. – Что же ты наделал! Знаешь, какой теперь тарарам поднимется!
– Ворье они или не ворье? – сказал Бойл. – Итальяшки они или не итальяшки? Кто будет поднимать из-за итальяшек тарарам?
– Ну, может, на этот раз сойдет, – сказал Древитс, – но, почем ты знал, что они итальяшки, когда стрелял в них?
– В итальяшек-то? – сказал Бойл. – Да я итальяшек за квартал вижу."
(Э.Х. Сборник рассказов "В наше время")
* * * *
Система Искусственного Интеллекта на Глубоком Обучении, используемая для анализа рентгеновских изображений и КТ, каким-то неведомым образом немедленно узнает расовую принадлежность пациента. AI делает это даже по размытому рентгену и с фантастической точностью!
* * * *
Авторы работы сочли нужным обратиться к научному сообществу со следующим текстом:
"Мы настоятельно рекомендуем всем разработчикам, регулирующим органам и пользователям, занимающимся анализом медицинских изображений, с особой осторожностью относиться к использованию Моделей Глубокого Обучения.
При использовании данных рентгеновского снимка и компьютерной томографии расовую принадлежность пациента можно легко узнать из одних только данных изображения, создавая таким образом прямой механизм для сохранения или даже усиления расового неравенства, существующего в современной медицинской практике".
1. AI Makes Strangely Accurate Predictions From Blurry Medical Scans, Alarming Researchers
https://www.iflscience.com/technology/ai-makes-strangely-accurate-predictions-from-blurry-medical-scans-alarming-researchers/
Бойл застрелил сначала сидевшего в кабине, потом – того, который был в грузовике. Древитс испугался, когда увидел, что они убиты наповал.
– Стой, Джимми, – сказал он. – Что же ты наделал! Знаешь, какой теперь тарарам поднимется!
– Ворье они или не ворье? – сказал Бойл. – Итальяшки они или не итальяшки? Кто будет поднимать из-за итальяшек тарарам?
– Ну, может, на этот раз сойдет, – сказал Древитс, – но, почем ты знал, что они итальяшки, когда стрелял в них?
– В итальяшек-то? – сказал Бойл. – Да я итальяшек за квартал вижу."
(Э.Х. Сборник рассказов "В наше время")
* * * *
Система Искусственного Интеллекта на Глубоком Обучении, используемая для анализа рентгеновских изображений и КТ, каким-то неведомым образом немедленно узнает расовую принадлежность пациента. AI делает это даже по размытому рентгену и с фантастической точностью!
* * * *
Авторы работы сочли нужным обратиться к научному сообществу со следующим текстом:
"Мы настоятельно рекомендуем всем разработчикам, регулирующим органам и пользователям, занимающимся анализом медицинских изображений, с особой осторожностью относиться к использованию Моделей Глубокого Обучения.
При использовании данных рентгеновского снимка и компьютерной томографии расовую принадлежность пациента можно легко узнать из одних только данных изображения, создавая таким образом прямой механизм для сохранения или даже усиления расового неравенства, существующего в современной медицинской практике".
1. AI Makes Strangely Accurate Predictions From Blurry Medical Scans, Alarming Researchers
https://www.iflscience.com/technology/ai-makes-strangely-accurate-predictions-from-blurry-medical-scans-alarming-researchers/