對抗網(wǎng)絡(luò)霸凌 人工智能成Instagram首選武器
DeepText的優(yōu)缺點
盡管如此,這些努力還遠不能夠完全阻止網(wǎng)絡(luò)霸凌。
謝菲爾德大學(xué)的博士生Zeerak Waseem專注于辱罵語言檢測和Twitter上的仇恨言論,他表示,“這些嘗試沒有效果”。
為什么?雖然Twitter和Facebook在抑制網(wǎng)絡(luò)霸凌方面都取得了長足進展,但Instagram是第一個使攻擊性評論自動消失的社交網(wǎng)站。Systrom的博文和Wired都解釋了人工智能目前在Instagram帳戶上的運行情況。如果用戶發(fā)布令人反感或騷擾的語言,DeepText會捕獲并立即刪除它。Wired報道說,為了防止霸凌者試圖戲弄該系統(tǒng),攻擊性的言論仍然可以被犯罪者看到。用戶還可以手動輸入要阻止的單詞或短語,通過阻止每個用戶設(shè)定的獨特的觸發(fā)詞,使DeepText更加有效。
然而,DeepText并不完美。
Instagram的機器學(xué)習(xí)算法自動集成在平臺上,但一些不良言論仍然可以繞過該工具。Waseem說,隱含的侮辱,如昵稱或誹謗的代號會讓DeepText難以發(fā)現(xiàn)。而且,該功能可以輕松關(guān)閉。只要用手指點擊“隱藏攻擊評論”就可以切換關(guān)閉狀態(tài),如果它的任務(wù)是消除網(wǎng)絡(luò)霸凌,這似乎是違反直覺的。言論自由與創(chuàng)造一個擺脫仇恨言論的環(huán)境之間的界線是不容易找到的。Davidson補充表示,“機器學(xué)習(xí)不是一個能夠阻止網(wǎng)絡(luò)霸凌或網(wǎng)絡(luò)不良言論的萬能藥!睓C器學(xué)習(xí)可以幫助被欺負的用戶體驗更好,但沒有技術(shù)會阻止個人說壞話。
Ditch the Label的首席執(zhí)行官Liam Hackett認為,Instagram平臺上年輕用戶眾多,網(wǎng)絡(luò)霸凌的問題也最為嚴重。侮辱形形色色,從對照片的負面評論到霸凌者創(chuàng)造假帳戶來攻擊目標人群都有。
Hackett贊揚了Instagram的努力,并且認為機器學(xué)習(xí)策略是多么明智,社交網(wǎng)絡(luò)應(yīng)該更多地投資于這項技術(shù)。他提到Instagram如何使用人工智能在反網(wǎng)絡(luò)霸凌的運動中取得了很大的進步,人工智能真的在改變游戲。
并且,除了防止霸凌,DeepText還有其他功能可以幫助企業(yè)深入了解客戶的興趣。
問題的根源
機器學(xué)習(xí)在情感層面上邁出了正確的一步。然而,解決不良網(wǎng)民為什么會在這些平臺上持續(xù)不斷進行言論攻擊是一個更大的問題。
Hackett表示,“互聯(lián)網(wǎng)使人類變得不那么人性化”,舒舒服服地躲在屏幕后面侮辱其他用戶比在面對面的時候說出這些侮辱性的言辭要容易得多。線下的人際關(guān)系具有隱含的行為準則——這是一種不言而喻的社會規(guī)范。在互聯(lián)網(wǎng)上卻并不總是遵循同樣的準則。
作為今年最受歡迎的社交媒體網(wǎng)絡(luò)之一,Instagram擁有7億的活躍用戶,并且用戶數(shù)還在快速增長,在四個月的時間內(nèi)即可獲得1億新用戶。然而,用戶數(shù)量的增加也同時帶來了傷害性內(nèi)容和冒犯性語言的增加。
Hackett指出,程序本身可能不是教導(dǎo)人們在網(wǎng)上相互尊重的完全解決方案。
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-10.29立即報名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會
-
10月31日立即下載>> 【限時免費下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月14日立即報名>> 2024工程師系列—工業(yè)電子技術(shù)在線會議
-
12月19日立即報名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報名中>> OFweek2024中國智造CIO在線峰會
推薦專題
- 1 Intel宣布40年來最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國產(chǎn)AI芯片公司破產(chǎn)!白菜價拍賣
- 5 具身智能火了,但規(guī)模落地還需時間
- 6 國產(chǎn)英偉達們,抓緊沖刺A股
- 7 三次錯失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來
- 9 英偉達的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實力拉滿
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市