Takaichi reports asking Apple for appropriate measures on generative AI regarding suicide prevention

このたび、アップル社のティム・クック前CEO(@tim_cook)からお手紙をいただきました。 以前にもいただいたお手紙で、アップル社が進める子供を含む利用者の安全対策や、安全機能の強化に関する取組についてご紹介をいただいていました。 これに対し私からは、子供・若者の自殺が深刻な課題となっていること、また、悩みを抱える子供たちが生成AIに相談するケースが増えていることをお伝えし、さらに、海外では生成AIに相談した若者の自殺が社会問題となった事例も指摘されていることから、デバイスに搭載される生成AIについて、自殺防止対策に資する機能の実装を含め、適切な対策への協力をお願いしました。 この私からのお願いに対して、アップル社では、生成AIを含めて、自殺の危険や深刻な悩みを抱える利用者を、地域の支援窓口へつなぐ取組を進めていること、また、子供向けの安全対策を含め、今後もオンライン上で子供たちが安全に過ごせるよう機能強化にさらに取り組んでいくとのご説明をいただきました。 子供の自殺という深刻な課題に対し、生成AIサービスが、困難な状況にある子供が相談機関や支援者にアクセスするきっかけとなるなど、適切な支援につながるための一助となることを期待しています。 また、クックCEOがエグゼクティブチェアマンに就任されたことに伴い、新たに就任されたジョン・ターナスCEO(@johnternus)からもお手紙をいただきました。 ターナスCEOからは、「オンラインの安全性の確保」と「子供の自殺防止」に向けて、生成AIの展開に当たっても、子供の安全確保に全力で取り組んでいくとともに、日本政府と目標を共有し、連携して取り組んでいく考えであるとの力強いお言葉をいただきました。 アップル社の今後の取組に大いに期待するとともに、政府としても、グローバル企業をはじめとする国際的なパートナーとの連携を大切にしながら、子供の安全安心なインターネット環境の整備に向けた取組を進めてまいります。