【子供たちが危ない】いじめ・殺傷・虐待を許さないAI監視アプリの威力
2019.06.03
米国では、義務教育の学校で24件もの銃乱射事件が発生したり、ネットいじめにあった経験を持つ子供の割合が43%近くに達し、自殺する子供の数も過去数年間上昇し続けているなどの深刻な問題を抱えている。
Netmums の調査によれば、未成年者の25%が年齢を高く詐称してTwitter や Facebook などの SNS を利用しており、12人に1人が相手ユーザに性的なコンテンツを送信し、子供の約3分の1が eメールやインスタントメッセージアプリ経由でいじめや脅迫、虐待を受けた経験があるのだという。
そのような事態をテクノロジーの力で改善し、学校をより安全な場所にする取り組みの一環として、親や教師らがAI(人工知能)を用いて子供らのSNSやテキストメッセージをモニタリングするアプリが「Bark」である。
iOS、Android、Amazon Fire タブレットに対応しているBarkはリアルタイムに子どものやりとりをモニタリングし、ネットいじめや、鬱の兆候や自殺願望、小児性愛者の書き込みや、暴力的なコンテンツやアダルトコンテンツなどの“潜在的なリスク”を検知することで、子供や学校関係者にアラートを発信する仕組み。アラートを発信するだけでなく、取るべき対策を親や教師らに通知する。子供が自傷行為を行う方法をネットで検索した場合には、親にアラートを発信すると同時にメンタルヘルス関連の文献のリンクを送り、子供への接し方を知らせる機能を持ち、これまでに10数件の学校銃乱射事件の発生を未然に防いだという。
Barkは児童心理学者やデジタルメディアの専門家、法律の専門家らのコラボによって開発され、利用する学校は1100校以上に及び、300万人の子供たちを守っている。データの収集先は約25のソーシャルメディアやメッセージアプリ、Eメールなど。
Barkは学校向けには無料で提供されているが、一般家庭での利用は1ファミリーあたり月額9ドルとなっており、子供らのプライバシーを尊重しつつモニタリングを行える点が、他のツールとの違いである。
(ジャパンフォーブス『AIで子供のネット活動を監視するアプリBark、米国で利用拡大』2019年6月31日)
関連記事
TAG CLOUDS
TOPICS
-
手書き文字の答案をAIが採点⇒ワイの達筆についてこれるものなら…
大量の“手書き答案”をAIが98%の精度で読み取る! 小学校の新学習指導要領全面実施(2020年4月から)に向け、テクノロジーで教育にイノベーションを起こす「EdTech(エドテック)」領域を手がける企業の取り組み本格化が見込まれる。(「EdTech」は、EducationとTechnologyを組み合わせた言葉) 新学習指導要領では小学5・6年生を対象にプログラミング教育が導入されるため、文部科学省、総務省、経済産業省が、機運醸成を目指し、この9月を『未来の学び プログラミング……
2019.08.26
-
【ファッショントレンド】オーダースーツにAIソムリエ!?乗り遅れるな、おじさん
AIがお客の警戒を解く 高島屋がオーダースーツ売り場で人工知能導入の背景 高島屋、一部店舗で展開する紳士服のオーダーサロン『タカシマヤ スタイルオーダー サロン』で、人工知能(AI)を活用した接客ツール『感性AIソムリエ』を常設展開する。『タカシマヤ スタイルオーダー サロン』は高島屋が2017年から紳士服のパターンオーダーを提案するスタイルのサロンで、都市部の5店舗で展開している。 団塊世代の退職ラッシュや、職場のカジュアル化などでスーツ需要が減りつつあることに伴い、現在のス……
2019.08.26
-
【介護革命】ケアマネージャーのケアプランをAIが支援
人工知能で介護は変わるか。 福祉プラットフォームを展開する福祉ベンチャーのウェルモは、11.7億円の資金調達(シリーズB)を実施した。これで、同社が実施した資金調達の累計額は約17億円に達する。出資した主な企業は、あいおいニッセイ同和損保、アカツキ、グローバルキッズCOMPANY、コニカミノルタ、eumo、LINE Venturesなど。 ウェルモは、介護サービスプラットフォーム「MILMO」や人工知能を活用したケアプラン作成支援の「ケアプランアシスタント」、障害児童支援・教育を……
2019.08.26