アップデートの背景
Googleは、Geminiユーザーの安全を確保するため、メンタルヘルス保護機能を大幅に強化しました。AIがユーザーの入力から自傷行為や心理的な危機を検知した場合、これまでのテキストによるガイダンスに加え、即座に相談窓口へ繋がる直感的なインターフェースを提供します。
主な新機能と安全対策
- ワンタッチ相談窓口： 危機的状況が検知された際、画面上に現れる「相談する」ボタンから即座に地域のヘルプラインへアクセス可能です。
- 未成年者保護： 未成年ユーザーに対しては、AIが過度に親密な「相棒」として振る舞うことを制限し、適切な距離感を保つためのガードレールが導入されました。
- Google.orgによる支援： Google.orgは、AIを活用したメンタルヘルス支援を拡大するため、世界の相談窓口へ3,000万ドルの資金提供を決定しました。
まとめ
今回のアップデートは、AIが提供する利便性だけでなく、ユーザーの福祉と安全に対する責任を強調するものです。メンタルヘルス支援の専門機関と連携した取り組みは、AIエコシステム全体の安全基準を引き上げることが期待されます。