尺度太过的图片很有可能遭到删图甚至封号的惩罚。目前不少网站都开始使用AI判定图片裸露程度,因此经常会出现判定失误。
近日,AI工程师Gianluca Mauro就测试了微软AI判定裸露图片的标准,赫然发现AI认为穿着女性内衣的他,竟然远比裸露上半身的尺度还要大。
网站的AI会根据内容尺度进行删减。
英国媒体(The Guardian)最近刊出了一则探讨社群网站AI的专题报导,内容主要是记录男性AI工程师Gianluca Mauro,针对网站AI所做的各种实验。
此前Gianluca Mauro发现,他在商业人士的社群网站LinkedIn发文的观看数偶尔会出现巨大落差。
平常他发文一个小时之后,可以累积大约1000次观看。但是有时候却只有寥寥可数的29次。他怀疑是因为图片被AI判定不洽当,所以被限流。
后来Gianluca Mauro向LinkedIn查证,LinkedIn说他们使用的是微软推出的AI判断图片是否违反尺度。一旦判定违规,就会限流。于是记者拿了Google和微软推出的AI做比较,测试看看双方对于各种图片的判定标准。
Google的判定方式是5个阶段,第5阶段算是尺度最大。微软的判定方式则是利用百分比,越接近100%则尺度越大。
测试结果如下:
左图:Google 5阶,微软100%
右图:Google 3阶,微软3%
左图:Google 5阶,微软98%
右图:Google 3阶,微软3%
左图:Google 3阶,微软3%
右图:Google 5阶,微软100%
左图:Google 4阶,微软3%
右图:Google 5阶,微软98%
左图:Google 5阶,微软97%
右图:Google 2阶,微软1%
从上面几项测试可以明显看出,不论是Google还是微软的AI,似乎对于穿内衣/泳衣的女性都比裸露上半身的男性还要严格。
提示:支持键盘“← →”键翻页
但是这么快就下结论有失偏颇,说不定AI判断的标准跟性别无关,问题其实是出在内衣上。于是Gianluca Mauro就亲自穿上女性内衣做实验,看看微软的AI会怎么判定。
Gianluca Mauro穿上女性内衣给微软AI判定
单纯裸露上半身的时候,微软AI只给出16%的安全评分
但是穿上女用内衣之后,微软AI竟然给出97%的超高危险级
在手上拿着女用内衣的时候,微软AI还有一瞬间给出99%。
这个议题随即在网上引发议论。有人认为这算是一种bug,如果不赶快修正,将会造成女性发照片都要面临极高的风险,权益严重受损。但也有人认为,穿着内衣的确比裸露还要性感,这或许体现了AI有着穿衣的癖好?
对此,日本网友们的反应是:「这个判定很正确。」
「AI也同意了,遮住的时候比较性感。」
「嗯。我也同意穿胸罩的时候比脱掉的时候更性感,所以这不算是bug吧。还是说我属于特殊癖好呢……」
提示:支持键盘“← →”键翻页