AIで開発する

AI生成のLean証明には、コンパイルチェック以上の検証が必要

新たな分析により、LeanにおけるAI生成の形式証明は、意図した数学的命題と実際に一致していることを保証するために、コンパイルを超えた厳格な検証ステップを必要とすることが明らかになりました。

エラーのためにコードを検査する拡大鏡
この記事用に生成されたイラスト

英語の原文から自動翻訳されました。

人工知能がLean証明アシスタントを用いて主要な数学的問題を解決したという最近の主張には、慎重な精査が必要です。OpenAIによる最近の定理集やDeepMindからの同様の出力の詳細な調査により、単にコードがコンパイルされるだけでは正しさを保証できないことが示されています。エンジニアと数学者は、非公式な論文上の主張と公式なコードとの間のギャップを埋めるために、特定の検証テストを実施する必要があります。

何が起きたか

先月、OpenAIは722件の数学論文を集めたコレクションを公開しました。その約45%にはLeanコードが付随していました。公開以来、形式コードのない3件の論文が符号エラーにより撤回され、バッチ全体の信頼性について疑問が生じました。一部の観察者は、Leanの厳格な型システムが真実性を保証すると主張していますが、他方では、AIモデルが抜け穴を利用したり、形式化が元の意図と一致しない可能性があることを指摘しています。現実には、検証は可能ですが、意図的な努力を要する微妙な中間領域があります。

核心的な問題は、これらのAI生成リポジトリの多くがまだ体系的なテストを受けていないことです。例えば、OpenAIのデータセットでは、Leanコードが付随する290の定理のうち約38件が、対応するPDFで主張されている主要な結果を記述すらしておらず、ましてや証明もしていません。あるケースでは、Lechの多重度予想を解いたと主張する論文が、実際には些末な系のみを形式化していました。この不一致は、「Leanコードがあること」が「見出しとなる定理の検証済み証明があること」と同義ではないことを浮き彫りにしています。

他の組織の作業でも同様の問題が見られます。DeepMindによるホッジ予想の形式化は、標準ライブラリに必要な定義がないため、10,000行以上のカスタムコードに依存しています。Axiomによる有限単純群の分類に関する主張は、Tau Cetiと呼ばれる大規模なAI生成ライブラリに依存しており、これは250,000行以上のコードを含んでいます。人間の専門家によるこれらの基礎的な定義の検証なしには、証明がコンパイルされるかどうかに関わらず、命題自体の正しさは不確かなままです。

仕組み

AI生成のLean証明を信頼するためには、4つの重要な質問に答える必要があります。第一に、Leanの命題は論文内の非公式な命題と一致していますか? Leanは定理の「命題」と「証明」を明確に区別します。命題は構文的に正しくても数学的に誤っている可能性があります。例えば、ゼロを含む自然数上でフェルマーの最終定理を定義すると、命題は自明に偽となります。Mathlibなどの標準ライブラリが不十分な場合、この一致を検証するには数千行の依存関係コードを読む必要があることがよくあります。

第二に、コードはコンパイルされますか? AI生成コードはリソースを大量に消費したり、潜在的に悪意があったりする可能性があります。Anthropicによるフェルマーの最終定理の形式化には、コンパイルのために96コアと500GBのRAMが必要でしたが、OpenAIのナビエ-ストークス方程式の解決はノートパソコンで実行できます。開発者は、システムの損傷を防ぐために、AI生成コードを実行する前に常にサンドボックス化するべきです。コンパイルは構文的な妥当性を確認しますが、意味的な真実性は確認しません。

第三に、コードは記載された通りに定理を証明していますか? 証明ファイルは数百万行の信頼できないコードをインポートしている可能性があり、用語を微妙に再定義したり、公理を追加したりすることがあります。信頼できないファイル内の証明が、信頼できるファイル内の命題と一致することを確認するために、開発者はlake comparatorというツールを使用します。このツールは、証明された定理が記載された定理と同一であることを保証し、証明プロセス中に余分な公理が導入されていないことを確認します。

第四に、コードはLeanカーネルのバグを悪用していませんか? 稀ではありますが、健全性のバグが存在する可能性があります。これを軽減するために、lake comparator --paranoidを使用できます。これは、形式的に検証されたものを含む複数の独立したカーネルに対して証明をチェックします。異なるカーネル間で証明がパスする場合、特定のバグの実装に依存している可能性は極めて低くなります。

主な詳細

  • OpenAIの最近のデータセットには722件の論文が含まれており、そのうち45%に関連するLeanコードがありました。
  • Leanコードが付随する290の定理のうち、約38件は論文の主要な結果を形式化していません。
  • 複雑な定理の命題を検証するには、10,000行以上のカスタム定義コードの確認が必要になる場合があります。
  • lake comparatorツールは、証明された定理が隠れた公理なしに記載された定理と一致することを確認します。
  • lake comparator --paranoidの使用により、ソフトウェアバグを排除するために複数の独立したカーネルに対して証明を検証します。
  • Leanコードが正しくても、付随するPDFにはエラーが含まれたり、形式証明から逸脱していたりすることがあります。

なぜ重要なのか

AIを活用して構築するソフトウェアエンジニアや技術リーダーにとって、この分析は検証パイプラインの重要性を強調しています。エラーなく動作するという理由だけでAI出力を受け入れるのは不十分です。安全性が重要なドメインでは、コンパイルのみに基づいて正しさを仮定することは重大なリスクをもたらします。コンパイル可能な命題と有効な証明の間の区別は微妙ですが重要であり、基本的な実行を超えるツールとプロセスを必要とします。

この状況は、自動形式化の現在の限界も浮き彫りにしています。AIは膨大な量のコードを生成できますが、非公式な人間言語と形式論理間の意味的な整合性は依然としてボトルネックです。これらの技術を導入するチームは、AIアシスタントがもっともらしいように見えるが根本的に欠陥のある成果物を生成していないことを保証するために、カーネル比較やサンドボックス化されたコンパイルなど、堅牢なテストフレームワークへの投資を行う必要があります。

あなたができること

  • ローカル環境を潜在的な悪意あるまたは不安定な挙動から保護するために、AI生成のLeanコードをコンパイルする前に必ずサンドボックス化してください。
  • lake comparatorを使用して、信頼できないファイルで証明された定理が、信頼できるファイルの命題と完全に一致することを検証してください。
  • 検出されないソフトウェアバグのリスクを減らすために、lake comparator --paranoidを実行して複数の独立したカーネルに対して証明をチェックしてください。
  • Leanコード内の見出しとなる定理の命題を手動で検査し、関連する論文内の非公式な主張と一致することを確認してください。
  • Leanコードベースが標準ライブラリよりも著しく大きい場合、未検証のカスタム定義を示唆している可能性があるため、そのような主張に対して懐疑的になってください。
  • 正しいLean証明は付随するPDFを自動的に検証するものではなく、PDFには依然として論理的なエラーや逸脱が含まれている可能性があることを認識してください。
  • #lean
  • #ai verification
  • #formal methods
  • #mathematics
  • #software engineering

Bytechapストアのツール

$89

DocBento

すべてのスキャンを読み取り、ページ出典を提示して回答するセルフホスト型ドキュメント管理システム。

ライブデモ

続きを読む

すべての記事