Зашто је време да се заустави слепо верују у великој података
Живот / / December 19, 2019
алгоритми одлучити сада ко одобри кредит, осигурање или који примају позив за интервју, али често раде тако неправедно. И то само повећава јаз између слојева становништва.
Кејти О'Нил (Кети О'Нил)
Математичар, на анализи специјалиста финансијским тржиштима, аутор књиге "Оружје математичког пораза."
За изградњу алгоритам, морамо две ствари: дата (шта се десило у прошлости) и дефиницију успешног исхода (оно што желите да пронађете помоћу овог алгоритам). Онда одређује којим критеријумима довести до успешног исхода. Али дефиниција успеха не може бити универзална.
Алгоритам - је мишљење туђи, уграђени код.
Некада смо да мислимо да алгоритми су објективни и поуздан, али то је само маркетиншки трик дизајниран да нас застраши и да нас верују у алгоритмима и математичким подацима.
О'Нил наводи примере у којима алгоритми могу изазвати озбиљну штету. Ово се дешава када оцењивања запослених. На пример, у 2011. години у једној школи у Васхингтон Цоунти је одбацио више од 200 наставника након њиховог ишчупати из корена алгоритамИако су имали одличне препоруке од својих родитеља и вршњака.
Поред тога, алгоритми су често разлог за уклањање пристрасних пресуда. Новости организација ПроПублица недавно спровео истрагу и фоундТо су алгоритми који одређују ризик од рецидива, ради објективно. На исте злочине казне често изводили црних Американаца.
Ми смо сви подложни предрасуде, а ми их у алгоритмима који одлучују које потребе података треба узети у обзир.
Алгоритми се једноставно понавља своје грешке из прошлости, аутоматизују постојећи поредак. Тако да не можемо слепо им веровати, морамо да их тестирамо да буде објективан: да размисле о дефиницију успешног исхода, грешка, нису осигурани од стране било ког алгоритма. Колико често јављају и који је погођен? Која је цена таквих грешака?
Професионалци који раде са подацима, не треба да буду арбитри правде. То је време да се престане слепо веровати Биг data.