OpenAI は、子供の安全のための「AI 固有のルール」を確立する取り組みの一環として、Kids Online Safety Act (KOSA) を支持しました。この支持は、2024年の上院でのKOSAの可決と一致する。この法案は2022年に初めて導入された。
KOSAは、ソーシャルメディア企業やオンラインプラットフォームに対し、子どもの保護を強化するよう義務付けている。現在のバージョンでは、ソーシャルメディアアプリで未成年者が「中毒性」機能やアルゴリズムによる推奨をオプトアウトできるようにすることが求められている。オンラインプラットフォームには、摂食障害、自殺、性的搾取に関連した有害なコンテンツに対処する「注意義務」も課されることになる。
Apple、Microsoft、Snap、Xなど他のテクノロジー企業もKOSAへの支持を表明している。逆に、Meta のような会員が所属する業界団体 NetChoice は、この法案は子供の安全を強化することなく検閲につながる可能性があると主張して、この法案に反対している。電子フロンティア財団などのプライバシーおよびデジタル権利団体も、KOSAへの反対を表明している。
OpenAIは、KOSAはすでに実施している安全対策を「補完するもの」であると述べた。最高国際問題責任者のクリス・ルヘイン氏は、より強力な保護措置の重要性を強調し、「プラットフォームが若者の生活に深く浸透するまで、10代に対するより強力な保護措置が講じられなかったソーシャルメディアの台頭時に犯した過ちを繰り返すことはできない」と述べた。
現在、OpenAI は ChatGPT に関連する安全上の過失を主張する複数の訴訟に直面しています。ある訴訟では、10代の少年がチャットボットと自殺計画について話し合った後、家族が不法死亡を主張している。別の訴訟では、ChatGPTから受けた不適切な医学的アドバイスにより、10代の少年が誤って薬物を過剰摂取したと主張している。
