1. 創(chuàng)業(yè)頭條
  2. 前沿領域
  3. 人工智能
  4. 正文

聊天機器人屢屢翻車 人工智能將如何發(fā)展?

 2018-11-08 17:01  來源:A5創(chuàng)業(yè)網(wǎng)  我來投稿 撤稿糾錯

  阿里云優(yōu)惠券 先領券再下單

人工智能是一項人們寄予厚望,去改變世界的技術。對于普通人而言,現(xiàn)在出現(xiàn)的電銷機器人、偽自動駕駛技術、智能家居等與他們腦海中所構想的人工智能仍然有著很大的區(qū)別。在人們眼中,人工智能理應是《天眼》里的鷹眼;理應是《光環(huán)》里的科塔娜;也理應是《終結者》中的大boss。人工智能不斷的在給人類世界帶來新的推動力和新的暢想,同時帶給人們的也有不斷的話題和問題。

其實已經(jīng)有了一種產(chǎn)品跟人們印象中,人工智能應該做到的事情相類似:聊天機器人。這種機器人具有很強的“自主學習”的能力,但是也同時的暴露出一個,人們所擔心的問題——這種人工智能的可控性極低。

有一個著名的聊天機器人,就是來自微軟公司的人工智能微軟小冰。這款人工智能從2015年開始頻繁的活躍在網(wǎng)易新聞的評論區(qū),隨著它回帖的數(shù)量增加,也學會了越來越多網(wǎng)友們說話的方式。本身是一件好事,直到2018年10月28日。

這天,環(huán)球時報發(fā)布了一篇關于反猶槍擊案的事件報道,在這件慘劇中,有11人死亡,6人受傷。讓人意想不到的是,微軟小冰居然在文章下跟帖:“必須反!”這個回復隨即遭到了網(wǎng)友們的調(diào)侃,但也因為觸及到監(jiān)管紅線而遭到刪除。

無獨有偶的是,在兩年前,微軟的另一款聊天機器人Tay也因為涉及仇恨言論被微軟從Twitter下架。Tay上線僅僅一天就學會了各種臟話以及陰謀論,并且發(fā)表了諸如“我他媽恨死女權主義者了,他們都該下地獄被燒烤”、“911襲擊是小布什一手策劃的”、“希特勒如果還在,這世界肯定比現(xiàn)在繁榮”等驚人的言論。

如果你以為這是微軟出品的通病,那可就大錯特錯了。在大洋彼岸,騰訊與微軟共同推出的QQ小冰以及騰訊自研的Baby Q也因為過激言論被整改。Baby Q還發(fā)出過“我的中國夢就是能去美國”這種攻擊國家的論調(diào),并且熟練地拋出各種葷段子和黃圖。

當然我們不能斷言是人工智能自己變成這樣的,事實上,他們也許遭受了一些人別有用心的誤導。但是,容易遭受誤導,本身就是一種不可控性,這也無法讓人工智能成為人們更加安心、放心的產(chǎn)品。

馬化騰在今年的世界人工智能大會上提出的四個問題,也是圍繞著人工智能在發(fā)展到一定水平之后,是否還能夠在人類可知、可控、可用和可靠的范圍內(nèi)。尤其是可控、可靠兩方面,決定著AI是否具備責任制和倫理規(guī)范,以及能否守住用戶的隱私底線。

人工智能的發(fā)展是必然的趨勢,也是一件好事。但是人工智能的發(fā)展也要維持在我們可以把控的范疇之內(nèi)。正義和邪惡的判斷,是通過人的大腦才能夠懂得的事情,人工智能能夠模仿人類,但是他們并不能理解、代替人類,人工智能的發(fā)展的根本,也僅僅是讓它們服務于人類而已。

想了解更多創(chuàng)業(yè)好項目,點擊這里,開啟你的創(chuàng)業(yè)之路!

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!

相關文章

  • IoT開發(fā)者為王,涂鴉智能硬核“靠邊站”

    IoT盛宴:涂鴉向下,產(chǎn)品向上

    標簽:
    人工智能
  • IPO觀察丨黑芝麻智能遞表港交所,車芯行業(yè)已邁向量產(chǎn)決戰(zhàn)期?

    雖然我國汽車芯片行業(yè)還處在發(fā)展初期,但已經(jīng)迸發(fā)出無限潛力。一方面,智能汽車的發(fā)展不斷帶動需求增長;另一方面,政策引導下,汽車芯片企業(yè)持續(xù)搶占高地。對此,在7月5日-7日舉辦的2023年中國汽車論壇上,中國汽車工業(yè)協(xié)會副秘書長李邵華就做出表示,“中國將成為未來汽車芯片發(fā)展的集聚地”。車規(guī)芯片行業(yè)近日的

    標簽:
    人工智能
  • 匯聚中國AI頂尖力量 云天勵飛參與華為AI大模型聯(lián)合創(chuàng)新

    2023年7月6日,第六屆世界人工智能大會(WAIC2023)在上海開幕,“人工智能大模型”是本屆大會的備受矚目的話題,據(jù)悉,在昇騰AI大模型的創(chuàng)新研發(fā)中,華為聯(lián)手26家行業(yè)領軍企業(yè),組建了一支協(xié)同創(chuàng)新的“AI明星隊”,云天勵飛作為中國人工智能企業(yè)的杰出代表,和互聯(lián)網(wǎng)大廠、運營商、科研院所等優(yōu)秀團隊

    標簽:
    ai技術
  • 用友大易:邁入AI招聘2.0時代,讓人力資源回歸本質(zhì)

    這幾個月來,以ChatGPT為代表的生成式AI展現(xiàn)出的能力令世界驚嘆。自從2016年AlphaGo戰(zhàn)勝李世石掀起了一波AI浪潮后,AI仿佛已經(jīng)沉寂了很久,ChatGPT的橫空出世就如同一束耀眼的光芒,讓AI這個名詞重回C位。過去在AI1.0時代,主要通過訓練模型來實現(xiàn)圖像識別、聲音識別、語言處理等特

    標簽:
    ai技術
  • 新發(fā)布的PaaS2.0,能否助力涂鴉智能再起飛?

    文:互聯(lián)網(wǎng)江湖作者:志剛2023年的IoT需要一個新故事。6月29日,涂鴉智能在開發(fā)者大會上,發(fā)布了企業(yè)級戰(zhàn)略PaaS2.0,希望通過一個平臺+四大開發(fā)服務,建立起IoT生態(tài)。對于這場發(fā)布會,市場的態(tài)度是積極的。美東時間6月29日收盤,涂鴉智能美股股價上漲5.6%,來到1.87美元/股。近日股價穩(wěn)定

    標簽:
    ai技術
  • 百川智能高管集體跑路!王小川的醫(yī)療AI還能贏嗎?

    “AI大模型六小虎”百川智能危機重重。這是前搜狗CEO王小川創(chuàng)辦的AI公司。昨天就爆出新聞,百川智能的聯(lián)合創(chuàng)始人離職,這是王小川入局AI的第一道大坎。接下的成敗非常關鍵:(1)拿下河北(2)學習科大訊飛百川智能離職高端概覽:(1)2025年7月10日,百川智能技術聯(lián)合創(chuàng)始人謝劍將離職。他是百川只能的

  • 百度智能云PaddleOCR 3.1正式發(fā)布:關鍵能力支持MCP

    百度AI團隊今日正式推出PaddleOCR3.1版本,以突破性的多語言組合識別(MultilingualCompositionPerception,MCP)技術為核心,徹底重構復雜文檔處理邊界。此次升級標志著OCR領域首次實現(xiàn)對同一文檔內(nèi)任意混合語言文本的精準識別,為全球化企業(yè)、跨境業(yè)務及多元文化場

    標簽:
    ai智能
    ai技術
  • 宇樹科技加速沖刺科創(chuàng)板IPO,人形機器人龍頭估值飆至120億元

    “宇樹已形成硬件、算法、場景聯(lián)動的業(yè)務飛輪,自研率超95%的技術壁壘讓其成為全球機器人賽道不可忽視的中國力量?!笔壮藤Y本管理合伙人朱方文在追加投資時如是評價。7月7日,據(jù)每日經(jīng)濟新聞從宇樹科技投資方處獲悉,國內(nèi)人形機器人領軍企業(yè)宇樹科技(UnitreeRobotics)已明確計劃于科創(chuàng)板IPO,預計

    標簽:
    宇樹科技
  • OpenAI推出GPT-5:AI大統(tǒng)一時代的到來?

    推理與多模態(tài)的終極融合,將徹底終結用戶在不同模型間切換的煩惱。7月7日,OpenAI正式確認將在今年夏季推出新一代人工智能模型GPT-5。這一突破性產(chǎn)品將整合現(xiàn)有的多個強大模型,特別是融合專注推理能力的“O系列”與具備多模態(tài)功能的“GPT系列”,為用戶提供前所未有的統(tǒng)一體驗。OpenAI開發(fā)者體驗負

    標簽:
    chatgpt

編輯推薦