AIツール「マジックノート」の社会福祉への影響

2024年9月28日　英国最新ニュース

ＰＣやスマホ（iOSとAndroid）で利用できるAIツール「Magic Note」は、ローカルまたはクラウド上でメモを作成・編集することができます。
そのマジックノートを利用して医療関係及び行政関係で働くソーシャルワーカーは、対面でのミーティングを記録・分析し、フォローアップの行動を提案する。英国では、何百人ものソーシャルワーカーが、会話を記録し、医師への手紙を下書きし、人間のワーカーが考えもしなかったような行動を提案する人工知能システムの使用を開始している。

スウィンドン、バーネット、キングストンの7つの地域は、ソーシャルワーカーの携帯電話に搭載され、対面でのミーティングを記録・分析するAIツールを現在使用している。AIツール「マジックノート」は、ほぼ瞬時に要約を作成し、GPへの手紙の下書きなど、フォローアップの行動を提案する。さらに20以上の議会がこのツールを試験的に導入している。

先日、公共政策研究所で講演したウェス・ストリーティング保健長官は、「社会的ケアの危機について党派を超えた協議を行うという公約をまだ果たしていない。」と語り、ソーシャルワーカーがメモを取ったり報告書に記入したりする時間を削減することで、このツールは年間20億ポンドを節約できる可能性があると、メタ社やマイクロソフト社のスタッフを採用したこのシステムの開発元であるビーム社は主張している。

しかし、このテクノロジーは、多忙なソーシャルワーカーがAIシステムから提案されたアクションをどのように判断するか、また提案されたアクションを無視するかどうかをどのように決定するかという点で、懸念を生じさせる可能性もある。

英国ソーシャルワーカー協会は、対面での作業に時間を割くことができるAIシステムを歓迎するが、「人間関係に基づいたソーシャルワークの実践と意思決定に取って代わってはならない」と述べた。

ある試験的なカウンシルは、人生を変える可能性のある選択に関するメモをファイルに保存する前に、AIツールがミーティングを正確に要約していることをより確実にする必要があると述べた。

ロンドン市カムデン区の影響評価によると、クライエントのロールプレイをした人が、携帯電話を使うのに少し苦労していることをちらっと話した。AIが作成したケースサマリーには、彼らのために技術トレーニングを検討するという潜在的なアクションが追加されていたが、ロールプレイに参加していた人たちは誰もそれを拾わなかった。

マジックノートを提供するビームの最高執行責任者（COO）であるセブ・バーカー氏は、パイロットからのフィードバックのどれもが、ソーシャルワーカーがマジックノートの指示通りに行動することを示唆していないと述べた。また、ソーシャルワーカーがクライエントとの面談中にスイッチを切り、AIに行動計画を作成させているという証拠はないという。

英国では成人ソーシャルワーカーの10人に1人が欠員となっており、2023年には児童家庭ソーシャルワーカーの欠員率が2017年以来2番目に高くなり、政府のリスク評価を「危機的」に押し上げた。