アシロマAI 原則

480841613a5e7e9958ddab300f4ed25e_s_R

人工知能への関心

人工知能が社会生活に及ぼす影響、あるいは人工知能における法的・倫理的課題等についての議論が世界的に高まっているようです。専門家だけでなく、一般の人たちの間でも関心がもたれるようになってきています。特に、人工知能が職業を奪うという話がよく話題となるようで、先日のNHKの番組でも「ロボットがもたらす“仕事”の未来(原題:Automation and the Future of Jobs(スウェーデン2016)」というタイトルで、工場や倉庫などで働く労働者たちの仕事が急速にロボットに奪われ、資格や学歴がない人たちは失業状況に追い込まれていくという状況を映し出していました。もちろん番組は、失業した人への再教育が難しく、また、機械化による失業者の増加に対して新しい仕事の創出スピードが追い付けないといった悲観論だけでなく、今ある仕事も20年前には無かったものも多いことや、生産性が上がれば、需要も増えると言った楽観論も紹介しながら構成されていました。

また、マイクロソフトが行ったアジア地域デジタルの未来に関する調査(Microsoft Asia Digital Future Survey)では、日本の若者が、自分たちの生活に大きな影響を与えるテクノロジーとして人工知能 (AI)をトップに選んだという報告もあります。

人工知能と雇用の問題に限らず、人工知能の社会的影響に関する検討が2014年頃からいろいろな機関や団体などで本格化し、2016年から2017年にかけて相次いで報告書や提言、ガイドラインなどが公表されてきています。その中の一つが「アシロマAI原則」です。

アシロマAI 原則

アシロマAI原則(Asilomar AI Principles)とは、The Future of Life Institute(FLI)において、2017年1月に開催されたBENEFICIAL AI 2017カンファレンスで提案されたAIの研究課題・倫理と価値・長期的な課題などに触れたガイドラインです。カリフォルニア州のアシロマで開催されたため、アシロマと付いています。発表されたのは2月3日で、23項目からなるため「アシロマAI23原則」とも言います。

The Future of Life Institute(FLI)はMIT 教授のMax Tegmark氏、Skypeの共同創始者であるJaan Tallinn氏,UC サンタ・クルーズのAnthony Aguirre氏らによって2014年に創設されたボランティア運営の団体で、SpaceXやテスラモーターズの創業者であるElon Musk 氏が1,000 万ドル(約12 億円)を寄付したことで注目された団体でもあります。

民間の団体ですからもちろん強制力はありませんが、物理学者のスティーブン・ホーキグ博士やイーロン・マスク氏、未来学者のレイ・カーツワイル博士なども支持者として名を連ねています。

asilomar_002_Rhttps://futureoflife.org/ai-principles/ より)

Future of Life InstituteのWebには「アシロマの原則」というタイトルで日本語訳も掲載されています。

「研究課題」では、研究目標、研究資金、科学と政策の連携、研究文化、競争の回避といった内容について、「倫理と価値」では、安全性、障害の透明性、司法の透明性、責任、価値観の調和、人間の価値観、個人のプライバシー、自由とプライバシー、利益の共有、繁栄の共有、人間による制御、非破壊、人工知能軍拡競争といったことについて、「長期的な課題」では、能力に対する警戒、重要性、リスク、再帰的に自己改善する人工知能、公益といったことについて書かれています。
(https://futureoflife.org/ai-principles-japanese/ 参照)

アシロマAI原則のポイントについて、東京海上研究所の「SENSOR №35」には次のように述べられています。

・むやみに 技術開発を 競うのではなく、今開発しているAIは人類全体にとって本当有益かを考える
・AIの目標と行動は、人間倫理観・価値一致するようデザインしなければいけない
・AIによってもたらされる経済的利益は、全世界で広く共有なければいけない
・AIによって、人間の尊厳、権利、自由、文化的多様性が損なわれてはいけない
・自己増殖機能を持つようなAIの開発には、厳重な安全管理対策が必要である
(SENSOR №035 2017/03 東京海上研究所ニュースレター http://www.tmresearch.co.jp/sensor/2017/03/23/sensor_no-35/ より)

ところで、この「アシロマ」は、1975年に遺伝子組み換え技術にガイドラインが議論され、生物学的封じ込めの合意がなされた「アシロマ会議(Asilomar conference) 」の場所として有名です。Future of Life Instituteがこの地で会議を開き、「アシロマAI原則」を提案したのは、そうした歴史を踏まえてのことのようです。
実は、アメリカ人工知能学会(AAAI:Association for the Advancement of Artificial Intelligence )が、人工知能の発展が社会に及ぼす長期的影響について検討した「Presidential Panel on Long-Term AI Futures:2008-2009 Study」もアシロマで開催されています。

AIに倫理観等に関する報告書

AI100

ホワイトペーパーとして出された最近の主なものとしては、スタンフォード大学の「AI100(One Hundred Year Study of Artificial Intelligence)」が2016年6月に公表されています。

ここでは、2030年までの典型的な北米年を想定し、交通や家庭など8つの分野での人工知能の影響を検討しています。例えば、交通では、自動運転が一般化し、都市での車保有率は低下するとしています。ヘルスケアでは、何百万人もの健康状態の改善や生活の質の改善をもたらしうるとしています。雇用については、AIはタクシーやトラック運転等の特定の種類の雇用を代替する可能性があり、多くの分野では、短期的には、雇用ではなくタスクの置換えとなり、新しい種類の雇用を生み出すが、事前に想像することが困難としています。その他にも、プライバー、イノベーション政策、民事責任、刑事責任、認証、労働、政治、エイジェンシー、課税といったことについても言及しており、例えば課税では、自動運転によって交通違反が少なくなり収入が減少する可能性があるとしています。民事責任では、人間の責任が減るほど、製造企業の側の責任が増す可能性があるとしています。

Tenets

Amazon、フェイスブック、グーグル、IBM、マイクロソフトによって設立された非営利法人Partnership on AI(Partnership on Artificial Intelligence to Benefit People and Society)は、2016年9月の発足の際に、8項目からなる科学的研究における基本的信条「Tenets(信条)」を発表しています。兵器や人権を侵害するようなツールへのAIの利用に反対を呼びかける項目が含まれています。

Preparing for the Future of Artificial Intelligence

2016年10月には、アメリカの科学技術政策局(OSTP)及び国家科学技術会議(NSTC)が、報告書「人工知能の未来に備えて(Preparing for the Future of Artificial Intelligence)」を公表しています。23の提言からなるものです。

同報告書は、規制制度、研究開発、経済・雇用、公正性・安全性、安全保障まで幅広い項目について言及しています。そして12月には「Artificial Intelligence, Automation, and the Economy(AI、自動化、そして経済)」を公表しています。この報告書では、AIが台頭することで、これから10~20年の間にアメリカの仕事の9~47%が脅かされる可能性を指摘しつつも、AIの潜在的メリットを得るための投資、教育、社会的セーフティネットなどの政策を提案しています。

Ethically Aligned Design Version1.0

同じく12月には、米国電気電子学会(IEEE)が、倫理的なAI開発を促進するための指針のドラフト「Ethically Aligned Design Version1.0」を発表しています。文書は8つの節からなり、人工知能の一般的な原則の他人工知能に価値観を組み込むことm人工知能の安全性と恩恵、雇用問題、自律兵器、個人情報、説明責任など136ページにも及ぶものです。

asilomar_001_Rhttp://standards.ieee.org/develop/indconn/ec/ead_v1.pdf より)

Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics

欧州議会・法務委員会では、2016年5月に「ロボティックスにかかる民法規則に関する欧州委員会への提言(Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics)という報告書案を公表し、2017年1月に欧州議会に提言として提出、451票退138票、棄権20票で2017年2月16日に採択されています。この提言では、倫理原則の策定に向けた論点の定時やロボット・AIを所管するEU機関の設置、スマート・ロボットの登録制、ロボットに関する損害賠償責任、保険、知的財産権、データの流通と保護、標準化等について定めるEU法の策定の提言などがなされています。

ロボティクスと人工知能

イギリスでは、2016年9月に、英国下院科学技術委員会が「ロボティクスと人工知能」という報告書を取りまとめています。報告書の「結論と提言」では、ロボティクス分野における人材育成、研究開発に危機感を示し、AIに関する常設の委員会を設置するよう提言し、委員会は、AI技術の開発 及び利用を統治するための原則の策定等に注力すべきとしています。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です