【子供たちが危ない】いじめ・殺傷・虐待を許さないAI監視アプリの威力

2019.06.03

米国では、義務教育の学校で24件もの銃乱射事件が発生したり、ネットいじめにあった経験を持つ子供の割合が43%近くに達し、自殺する子供の数も過去数年間上昇し続けているなどの深刻な問題を抱えている。


Netmums の調査によれば、未成年者の25%が年齢を高く詐称してTwitter や Facebook などの SNS を利用しており、12人に1人が相手ユーザに性的なコンテンツを送信し、子供の約3分の1が eメールやインスタントメッセージアプリ経由でいじめや脅迫、虐待を受けた経験があるのだという。
そのような事態をテクノロジーの力で改善し、学校をより安全な場所にする取り組みの一環として、親や教師らがAI(人工知能)を用いて子供らのSNSやテキストメッセージをモニタリングするアプリが「Bark」である。
iOS、Android、Amazon Fire タブレットに対応しているBarkはリアルタイムに子どものやりとりをモニタリングし、ネットいじめや、鬱の兆候や自殺願望、小児性愛者の書き込みや、暴力的なコンテンツやアダルトコンテンツなどの“潜在的なリスク”を検知することで、子供や学校関係者にアラートを発信する仕組み。アラートを発信するだけでなく、取るべき対策を親や教師らに通知する。子供が自傷行為を行う方法をネットで検索した場合には、親にアラートを発信すると同時にメンタルヘルス関連の文献のリンクを送り、子供への接し方を知らせる機能を持ち、これまでに10数件の学校銃乱射事件の発生を未然に防いだという。
Barkは児童心理学者やデジタルメディアの専門家、法律の専門家らのコラボによって開発され、利用する学校は1100校以上に及び、300万人の子供たちを守っている。データの収集先は約25のソーシャルメディアやメッセージアプリ、Eメールなど。
Barkは学校向けには無料で提供されているが、一般家庭での利用は1ファミリーあたり月額9ドルとなっており、子供らのプライバシーを尊重しつつモニタリングを行える点が、他のツールとの違いである。
(ジャパンフォーブス『AIで子供のネット活動を監視するアプリBark、米国で利用拡大』2019年6月31日)

詳しくはこちら

コメントを残す

メールアドレスが公開されることはありません。 *が付いている欄は必須項目です

関連記事

TOPICS

MORE