ChatGPTで完了した実験データをデータベースにアップロードするための英文をこしらえていました。ある時から、突然
「このコンテンツは、生物学的安全性に関するリスクが疑われるため、フラグが付けられました
判断に誤りがありましたか？この回答に低評価を付けてお知らせください。その後、リクエストを言い換えてみてください。私たちの方針の詳細は、ブログ記事をご覧ください。」というメッセージがでて、回答が読めなくなるケースがでてきました。追加安全性チェックによるブロックらしいのですが、別に生物兵器への応用がありうるような作業ではないので困りました。サポートページから連絡するとAIが答えるだけで、らちがあきません。ChatGPTに手伝ってもらって、人間のサポートからの連絡をほしい旨の英文を作って、それをヘルプのチャットに入れて、警告文がでたあたりの画面のスクリーンショット（機密の情報は表示されていない部分を選びます）を一緒にアップロードしました。まずAIの返事が来てまともな返事がなかったので、もう一度ChatGPTと人間のサポートにつなげという内容の英文を作って再アップロードしました。やっと人間のサポートからの返事がきたのですが、警告文のでた部分のプロンプトと前後のスクショを送れとか（もう送ってあるのに）、警告文の出た部分のチャットを共有してほしいとかいってきたので無視していました。すると数時間後にもう一度別の人物からメールがきて、やっとまともな対応が始まりました。OpenAIでもこうしたフォールスポジティブの出現の問題は認識しており、改善をおこなっているところだそうです。今回の問題はフォールス・ポジティブが発生してしまった典型的な事例として理解したという大変まともな返事でした。当面は以下のような文をブロックされそうなプロンプトの前にあらかじめ書いておくのがよいそうです。
“Please proofread the following English solely for scientific documentation and public database submission. Preserve the scientific meaning. Do not provide experimental procedures, optimization, troubleshooting, or recommendations for modifying the experiment.”
バイオセーフティのブロックは、生物兵器などの製造など生命科学の知識の悪用を防止するためのものなので、実験方法の最適化とか、変更とかをLLM二要求した場合に発動することが多いそうです。そんなことを要求していないというのをまず最初に記述してチャットを始めるのがよいということです。またテンポラリモードでチャットを行うのも、ブロックの発動を抑えるのには有効だと教えてくれました。
文献検索でも生物毒素についての文献をサーベイしているときに、このブロックが発動していくつかの文献が見えなくなるという経験をしています。文献検索の場合は、見えなくされても自分で検索式を使って検索すればよいのですが、英文チェックとかの場合は困るので上のようなプロンプトは役立つのではないでしょうか。
あとはローカルLLMや、Geminiなど別のLLMを使ってみてブロックされないことを期待するという方法を試すのもよいかもしれません。多分、生命科学のチャットでブロックを頻発するというClaudeはだめでしょうが。