【警告】「反社勢力摘発! 主犯はAIだった…」←とっくにそんな時代
2019.08.19
人工知能はもう悪用される段階に
14機関の専門家26人が英オックスフォードで「AIの危険」についてワークショップを開き、その結果をもとにして100ページにわたる報告書『悪意ある人工知能の利用』を発表。報告書には、非営利研究機関「オープンAI」やデジタル権利団体「電子フロンティア財団」、米国立安全保障シンクタンク「新アメリカ安全保障センター」も参加している。
報告書は、AIが最も悪用される可能性がある3つの分野として、(1)デジタル(2)現実世界(3)政治を特定しており、AIシステムの設計者は、自分たちが開発する技術が悪用される可能性を減らすために、今まで以上に努力する必要があると強調する。
報告書の中では、ならず者国家や犯罪者、テロリストによるAIの悪用はすでに現実のものであり、悪用される技術の多くはすでに開発済みで機は熟していると警告している。
中でも、人間の実例や指導のないままAIに超人的なレベルの知能を習得させる「強化学習」と呼ばれる新分野こそ注目すべきであり、近い将来にAIが「悪者」になってしまうシナリオが考えられるだろう。犯罪者がAIに人間並みのハッキングやフィッシュ技術を学習させたり、個人のプライバシーなどの有名無実化する監視・プロファイリング・抑止技術を覚えさせるなど、セキュリティにとてつもなく多大な影響が及び、AIが市民や組織、国家を取り巻くリスク状況を変えてしまうことが危惧される。
【報告書の主な提言】
・政策決定と技術研究の担当者は連携して悪意あるAIの使用について理解し、備えなければならない
・AIは様々な形で有用だが、諸刃の剣の技術で、研究者や技術者は悪用される可能性に留意し、先回りして対応する必要がある
・善悪両方に使える技術を長く扱ってきた分野(たとえばコンピューターのセキュリティ)から、最善慣行を学ぶべき
・AIの悪意ある使用リスクを軽減し防止しようと取り組む、利害関係者の範囲を積極的に拡大させる
(BBCニュース『人工知能はもう悪用される段階に 専門家警告』2018年02月21日)
関連記事
TAG CLOUDS
TOPICS
-
手書き文字の答案をAIが採点⇒ワイの達筆についてこれるものなら…
大量の“手書き答案”をAIが98%の精度で読み取る! 小学校の新学習指導要領全面実施(2020年4月から)に向け、テクノロジーで教育にイノベーションを起こす「EdTech(エドテック)」領域を手がける企業の取り組み本格化が見込まれる。(「EdTech」は、EducationとTechnologyを組み合わせた言葉) 新学習指導要領では小学5・6年生を対象にプログラミング教育が導入されるため、文部科学省、総務省、経済産業省が、機運醸成を目指し、この9月を『未来の学び プログラミング……
2019.08.26
-
【ファッショントレンド】オーダースーツにAIソムリエ!?乗り遅れるな、おじさん
AIがお客の警戒を解く 高島屋がオーダースーツ売り場で人工知能導入の背景 高島屋、一部店舗で展開する紳士服のオーダーサロン『タカシマヤ スタイルオーダー サロン』で、人工知能(AI)を活用した接客ツール『感性AIソムリエ』を常設展開する。『タカシマヤ スタイルオーダー サロン』は高島屋が2017年から紳士服のパターンオーダーを提案するスタイルのサロンで、都市部の5店舗で展開している。 団塊世代の退職ラッシュや、職場のカジュアル化などでスーツ需要が減りつつあることに伴い、現在のス……
2019.08.26
-
【介護革命】ケアマネージャーのケアプランをAIが支援
人工知能で介護は変わるか。 福祉プラットフォームを展開する福祉ベンチャーのウェルモは、11.7億円の資金調達(シリーズB)を実施した。これで、同社が実施した資金調達の累計額は約17億円に達する。出資した主な企業は、あいおいニッセイ同和損保、アカツキ、グローバルキッズCOMPANY、コニカミノルタ、eumo、LINE Venturesなど。 ウェルモは、介護サービスプラットフォーム「MILMO」や人工知能を活用したケアプラン作成支援の「ケアプランアシスタント」、障害児童支援・教育を……
2019.08.26