金研院看世界－AI是否將成人類信任體系主導者？

隨着AI計算能力的快速發展，未來一波波襲來的衝擊，正挑戰着我們對於AI普及後的社會想像。圖／FreePik

在美國舊金山的Waymo自駕計程車開放叫車兩年後，中國武漢也開始有上千臺「蘿蔔快跑」自駕計程車開始提供服務。同樣的，這兩項服務都遭到原有司機的強烈抗議，卻也象徵人工智慧（AI）從人類手上又搶佔了一個新工作領域。隨着AI計算能力的快速發展，未來一波波襲來的衝擊，正挑戰着我們對於AI普及後的社會想像。

■自駕計程車上路 突破演算法信任問題

因爲，這些自駕計程車的上路，代表了社會對於演算法信任問題的突破。

畢竟，這些車輛不僅需要獲得乘客的信任，也需要讓其他司機和行人信服其演算法的安全性。在這個自駕計程車商業化的過程中，必須證明出自駕安全性不亞於人類司機，從而推動社會向未來城市模式的轉型。而在這波浪潮中，金融業也跟進了自駕計程車的發展，保險龍頭瑞士再保險（Swiss Re）在分析各種碰撞數據後，與Waymo和百度（蘿蔔快跑母公司）訂立了自駕計程車的保險合約，這些保險數據幫助了Waymo申請上路的程序。

這一轉變，從最初對人類的信任到對機器的信任，最終形成了一種獨立於人類的對AI的系統性信任。延伸來看，就猶如人類也將從對醫療儀器的機器信任，進一步跨入依賴AI診斷、開藥甚至開刀的時刻，也將指日可待。

信任的這種轉移將對金融行業產生深遠的影響。

例如，ETF與機器人投資顧問的成功已經使許多人選擇信任演算法進行投資，而不是專業投資顧問。未來，隨着數位原住民一代成爲經濟的主力，個人儲蓄、信貸交易，以及後臺的審計工作等，都將在新的信任時代中被重新評估，以確定它們是否仍具有價值，是否仍需要依賴真人類來完成各項工作。

■人性的多變性 凸顯AI的侷限性

然而，從自駕計程車的實踐中，我們也看到了AI的侷限性，特別是在處理人性問題上。例如，畫面中有些AI車輛只按照演算法開車而互不相讓形成路口僵局，或者是因爲人類「豬隊友」，也就是不按章法開車的人類駕駛，拖累而發生事故。這都表示AI演算法仍然難以掌握開車道德相互禮讓，更無法察言觀色的認知出危險駕駛。這就像在金融服務上的AI缺乏同理心，也就不可能如同我們現在的優秀行員，在櫃檯對受到愛情詐騙的匯款戶苦口婆心，這種人性的掌握將是未來AI信任體系中最重要的瑰寶。

畢竟，服務的核心在於洞察人性，過分仰賴演算法和機器可能會讓我們忽略了初衷：豐富和美化人們的生活。無論虛擬世界多麼迷人，它都無法替代真實互動的溫度。

在個人的Waymo體驗中，油門增減的順暢與舒適度過彎，讓我舒適地打起瞌睡，但事後回想，開着車的只是一個技術高超、卻不懂開車倫理的程式而已，我不能跟他閒話家常，更不能跟他請教舊金山的點點滴滴；反過來說，在程式的眼裡，我也許不是遊客，只是一個要送到目的地的包裹罷了！