人工智慧時代的法制挑戰與立法原則
人工智慧科研發展指引
僅供委員問政所需參考
                        

                        
                            不代表本院意見或立場
                        

                    
                

            
        

        
            編號：2119
        

        
            議題研析
        

        
            一、題目： 人工智慧時代的法制挑戰與立法原則
        

        
            
            二、議題所涉法規
        

        人工智慧科研發展指引

        
            三、背景說明
        

        隨著人工智慧（Artificial Intelligence,AI）時代的來臨，人類與機器的關係充滿了許多未知的可能，科技正在改變我們的生活型態、企業經營及產業的發展，惟在人工智慧應用發展的同時，許多潛在的問題與風險也跟隨而來，近日即有媒體報導美軍模擬試驗，AI操控無人機「竟把操作員殺了」[footnoteRef:1]之爭議事件，人工智慧的發展所衍生法律與倫理的衝擊與爭議，已讓社會各界日趨重視及關注[footnoteRef:2]。 [1:  參見：吳美依，美軍模擬試驗！AI操控無人機「竟把操作員殺了」官員示警，ETtoday新聞雲，2023年6月2日，網址： https://www.ettoday.net/news/20230602/2511752 （最後瀏覽日期：2023年6月9日）]  [2:  參見：賴俊明，科技法制變革論壇今登場 聚焦人工智慧治理趨勢，經濟日報，2023年5月29日，網址：https://money.udn.com/money/story/5635/7198871 （最後瀏覽日期：2023年6月9日）] 


        
            四、探討研析
        

        
            （一）人工智慧時代的法制挑戰
        

        
                      由於人工智慧應用日漸發展及普及，新興科技與舊有的規範的衝突及挑戰亦日漸浮現，例如：人工智慧的著作權及專利權爭議、是否應該賦予AI人格能力？當AI犯錯，應由誰負責任？及隨著AI科技應用發展所伴隨而來的風險等問題，不斷的在挑戰舊有的法律規範。而人工智慧的治理趨勢、風險管理、倫理道德與監理架構等面向，更是政府在推動科技發展政策時要考量的法律議題[footnoteRef:3]。 [3:  同前註，國科會科技辦公室副執行秘書楊佳玲致詞內容。] 

        

        
            （二）外國之規範
        

        
                  1.聯合國
        

                    聯合國教育科學及文化組織在2021年11月25日宣布，193個成員國一致通過一項人工智慧倫理全球協議「人工智慧倫理建議書」（The Recommendation on The Ethics of Artificial Intelligence）。該建議書旨在實現人工智慧給社會帶來的優勢並降低其帶來的風險，確保數位化轉型能尊重、保護和促進人權，解決透明度、問責機制和隱私方面的問題，並指出人工智慧正在加劇原已分裂和不平等的世界，應該加以控制[footnoteRef:4]。 [4:  參見：聯合國教育科學文化組織新聞稿，UNESCO member states adopt the first ever global agreement on the Ethics of Artificial Intelligence，2021年11月25日，網址：https://www.unesco.org/en/articles/unesco-member-states-adopt-first-ever-global-agreement-ethics-artificial-intelligence （最後瀏覽日期：2023年6月13日），建議書全文請見：聯合國教育科學文化組織網頁，網址：https://unesdoc.unesco.org/ark:/48223/pf0000373434 （最後瀏覽日期：2023年6月13日）] 


        2.美國

        
                        美國白宮於2020年11月17日發布「人工智慧應用監管指引」（Guidance for Regulation of Artificial Intelligence Application），為聯邦機構就人工智慧的監管提供指引，以保持美國在人工智慧領域的領導地位[footnoteRef:5]。另美國國家標準與技術研究院（National Institute of Standards and Technology, NIST）於2023年1月26日公布「人工智慧風險管理框架1.0」（Artificial Intelligence Risk Management Framework, AI RMF 1.0），該框架為自願性，提供相關資源以協助組織與個人管理人工智慧風險，並促進可信賴的人工智慧（Trustworthy AI）之設計、開發與使用[footnoteRef:6]。 [5:  該指引全文請參見：白宮網頁，網址：https://www.whitehouse.gov/wp-content/uploads/2020/11/M-21-06.pdf （最後瀏覽日期：2023年6月13日）]  [6:  參見：陳箴，美國國家標準與技術研究院公布人工智慧風險管理框架（AI RMF 1.0），資訊工業策進會科技法律研究所，2023年2月，網址：https://stli.iii.org.tw//article-detail.aspx?tp=1&d=8974&no=64 （最後瀏覽日期：2023年6月12日）] 

        

              3.歐盟

                    歐盟議會於2019年4月9日發布「可信賴人工智慧倫理準則」（Ethics Guidelines for Trustworthy AI），要求人工智慧須遵守行善（do good）、不作惡（do no harm）、保護人類（preserve human Agency）、公平（be fair）與公開透明（operate transparency）等倫理原則[footnoteRef:7]。歐盟執委會復在2021年4月21日，提出「人工智慧法」（Artificial Intelligence Act）草案，管制AI系統所產生的風險或危害，因此只要AI系統本身在歐盟上市或被使用、AI系統產生之結果在歐盟被使用，不管供應商是在歐盟或第三國設立登記，都必須要受到歐盟的人工智慧法的管制。使用者若在歐盟，亦同[footnoteRef:8]（該法案經歐洲議會於2023年6月14日表決通過，惟尚須與歐洲理事會進行協商）。2022年9月28日，歐盟執委會（European Commission）也發布了「AI責任指令草案」（AI Liability Directive），探討AI系統侵害人們權利時，該如何分配法律責任[footnoteRef:9]，並同時發布了「產品責任指令修正草案」[footnoteRef:10]，把AI系統納入產品責任與消費者保護相關規範中[footnoteRef:11]。 [7:  參見：蔡宜臻，歐盟議會發布《可信賴人工智慧倫理準則》，資訊工業策進會科技法律研究所，2019年6月，網址：https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8248 （最後瀏覽日期：2023年6月12日）]  [8:  參見：陳錫平，歐盟人工智慧規則草案之初探——以市場、風險、價值及信賴為核心的管制架構，臺灣人工智慧行動網，2022年3月4日，網址：https://ai.iias.sinica.edu.tw/eu-ai-regulation-draft-minutes/ （最後瀏覽日期：2023年6月12日），該法案全文請參見：歐盟網頁，網址：https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206 （最後瀏覽日期：2023年6月12日）]  [9:  該指令全文請參見：歐盟網頁，網址：https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52022PC0496 （最後瀏覽日期：2023年6月12日）]  [10:  該指令全文請參見：歐盟網頁，網址：https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52022PC0495 （最後瀏覽日期：2023年6月12日）]  [11:  參見：劉元序，AI機器出事誰負責？相關法律夠不夠？來看歐盟《AI責任指令草案》說什麼，天下雜誌獨立評論，2023年2月9日，網址：https://opinion.cw.com.tw/blog/profile/553/article/13272 （最後瀏覽日期：2023年6月12日）] 


              4.日本

                    日本內閣於2019年3月29日發布人工智慧戰略，其中的倫理面向為「以人為本的人工智慧社會原則」，希冀藉有效安全的活用AI，推動「AI-Ready社會」，以實現兼顧經濟發展與解決社會課題的「Society5.0」為最終目標。AI社會原則主張應尊重之價值理念有：尊重人類尊嚴的社會、多元性和包容性的社會及永續性的社會。其核心內容為：以人為本、AI知識教育、保護隱私、安全確保、公平競爭確保、公平性、說明責任及透明性與創新[footnoteRef:12]。 [12:  參見：蔡宛君，日本發布以人為本AI社會原則，資訊工業策進會科技法律研究所，2019年6月21日，網址：https://stli.iii.org.tw/article-detail.aspx?no=64&tp=1&d=8264 （最後瀏覽日期：2023年6月12日），該原則全文請見：https://www8.cao.go.jp/cstp/aigensoku.pdf?fbclid=IwAR2y_AAfaSC68VCjvAp41OlMlybc-4QKPoZuLWJKDIoWZeWOE3yHzqjfrB4（最後瀏覽日期：2023年6月12日）] 


        
            （三）人工智慧法制的立法原則
        

                  我國政府為掌握AI發展的契機，繼宣示2017年為台灣AI元年後，續於同年8月推出「AI科研戰略」，並於2018年1月18日起推動4年期的「台灣AI行動計畫」（2018年至2021年），全面啟動產業AI化[footnoteRef:13]。科技部並於2019年9月訂定「人工智慧科研發展指引」（AI Technology R&D Guidelines），強調「以人為本」、「永續發展」及「多元包容」三大核心價值，並衍生構築8大指引，包括「共榮共利」、「公平性與非歧視性」、「自主權與控制權」、「安全性」、「個人隱私與數據治理」、「透明性與可追溯性」、「可解釋性」及「問責與溝通」等[footnoteRef:14]。惟隨著科技的進步，前述指引已無法應付人工智慧的迅速發展，為了更能具體落實透明、可控制性及隱私保護等原則，各界不斷有制定「人工智慧基本法」之倡議[footnoteRef:15]。 [13:  參見：行政院網頁，台灣AI行動計畫—掌握契機，全面啟動產業AI化，2019年8月7日，網址：https://www.ey.gov.tw/Page/5A8A0CB5B41DA11E/a8ec407c-6154-4c14-8f1e-d494ec2dbf23 （最後瀏覽日期：2023年6月12日）]  [14:  參見：國家科學及技術委員會網頁，科技部（已改制）訂定「人工智慧科研發展指引」 完善我國AI科研發展環境，2019年9月23日，網址：https://www.nstc.gov.tw/folksonomy/detail/dbf8da09-22be-4ef1-8294-8832fc6e8a26?l=ch （最後瀏覽日期：2023年6月12日）]  [15:  徐子苓，「人工智慧基本法」草案初稿出爐 盼數位部為主管機關，自由時報，2023年3月25日，網址：https://ec.ltn.com.tw/article/breakingnews/4251156 （最後瀏覽日期：2023年6月14日）] 


        從前述之聯合國、美國、歐盟及日本等有關人工智慧相關規範可知，國際組織或個別國家側重之處，略有差異，建議相關主管機關廣泛參考國際組織及各國之相關規範，引為我國人工智慧立法原則之參考，研擬符合我國國情及產業發展之「人工智慧基本法」草案，並檢討是否應修正相關配套規範。

        撰稿人：李淑瓊

        1