AIはもっともらしい間違いを平気で出力します。副業で納品した文章や資料にその間違いが入っていたら、責任を負うのは誰なのか。海外の事例や国のガイドライン、利用規約をもとに考えます。

AIはもっともらしい間違いをする

生成AIは、それらしい文章を作るのが得意です。その一方で、存在しない本や判例、間違った数字や日付を、自信のある口調で出力することがあります。この現象は「ハルシネーション」と呼ばれています。

自分で調べものに使うだけなら、間違いに気づいて直せば済む話です。ところが副業で納品した記事や資料に間違いが入っていたら、そうはいきません。

利用規約にはどう書かれているか

チェックリストの上の赤ペン

OpenAIの利用規約には、出力は常に正確とは限らないこと、事実の唯一の情報源や専門家の助言の代わりとして頼るべきではないことが書かれています。使ったり共有したりする前に、正確さと用途に合っているかを確かめ、必要に応じて人が確認するよう求めています。

つまり、出力が正しいかどうかを確かめるのは、使う側の役目だということです。

国のガイドラインでも求められている

総務省と経済産業省のAI事業者ガイドラインでも、AIを使う側には、出力の正確さとリスクを理解したうえで使うことや、関係者に説明できるようにしておくことが求められています。

海外で実際に起きたこと

真鍮の分銅とファイル

アメリカでは2023年、弁護士がChatGPTの作った架空の判例を引用した書面を裁判所に提出しました。このMata v. Avianca事件では、弁護士2人と所属する事務所に5,000ドルの制裁金が科されています。

カナダでは2024年、航空会社のサイトのチャットボットが割引の条件を間違って案内したことをめぐり、航空会社の責任を認める判断が出ました。航空会社は「チャットボットは別の存在だ」と主張しましたが、受け入れられませんでした。

どちらの例も、AIが間違えたことは言い訳になっていません。AIの出力を使った人や会社が責任を負っています。

副業の納品物で誤りがあったら

日本の法律で考えると、記事や資料の作成を「完成させて納める」約束で受けた場合、納品物に誤りがあれば、民法の契約不適合責任として、修正や代金の減額、損害賠償などを求められる可能性があります。作業そのものを引き受ける形の契約でも、注意を尽くして仕事をする義務を負う点は同じです。

どちらの形でも、「AIが書いたので」という理由で責任を免れることは難しいと考えておいたほうがいいです。これは一般的な説明なので、実際の契約で問題になったときは専門家に相談してください。

間違いを防ぐための習慣

デスクライトに照らされた本とノートパソコン
  1. 数字、固有名詞、日付は、元の情報を自分で開いて確かめる
  2. 法律や判例、医療やお金の情報は特に念入りに確認する
  3. AIが示したリンクや資料が実在するかを確かめる
  4. AIを使っていることと、どこまで確認したかを依頼主に伝える
  5. 納品前に確認する項目をリストにしておく

AIは下書きを速く作ってくれますが、その中身を保証してはくれません。確認にかける時間まで含めて、AIを使った仕事だと考えるのが現実的です。

よくある質問

AIが間違えたのだから、自分の責任ではないのでは?

利用規約でも、出力の正確さを確かめるのは利用者の役目とされています。納品した人として責任を問われる可能性があると考えておいたほうが安全です。

どこまで確認すればいいですか?

全部を同じように確かめるのは大変なので、数字や固有名詞、日付、法律やお金に関わる情報を優先してください。誤りがあったときの影響が大きいものから確認するのが基本です。

契約で責任の範囲を決めておくことはできますか?

仕事の範囲や、どこまで確認するかを契約で決めておくことはできます。ただ、どこまで責任を限定できるかは契約の内容や状況によるので、個別の判断は専門家に相談してください。

まとめ

AIの間違いは、AIのせいにはできません。確かめる時間まで含めてAIを使った仕事だと考える。これが、副業でAIを使ううえで一番大事な心構えだと考えています。

当サイトは広告収入で運営しています。広告の有無で検証の中身や評価を変えることはありません。