The Nomura Institute of Glycosciece Blog

今日の記事の前半では、昨日のマクマリー　有機化学第10版に続き、無料公開されている教科書Linear Algebra Done Right 第4版を紹介します。後半では、東京大学から公開された強化学習についての初学者向け資料にについて紹介しています。

2022年1月にLinear Algebra Done Rightという本について以下のような記事を書きました。

『2022/1/22
今日は数学の無料本を一つ紹介しておきます。大学院レベルのオープンアクセスの電子書籍でSheldon Axler先生の書いたMeasure, Integration & Real Analysisというものです。Springerから印刷された本としても出版されています。このサイトから最新版と正誤表などがダウンロード可能です。
同じ著者のLinear Algebra Done Rightという本は昔は一時無料公開されていてこのブログでも紹介しました。今は講義動画のみ無料で学べます。
https://linear.axler.net/LADRvideos.html』

コロナの感染拡大の時には、この本は無料でダウンロードできたのですが、もう読めなくなっているという記事です。
その後、著者のSheldon Axler 先生のツイート
https://nitter.net/AxlerLinearには、着々と第4版の準備をされている様子、出来上がった部分の公開などの進捗状況が逐次ツイートされていました。
とうとう今年の10月末にLinear Algebra Done Right第4版が公開されたという次のようなツイートがでました。

I am delighted to announce publication of the 4th edition of Linear Algebra Done Right as an Open Access book. The electronic version is legally free to the world at https://t.co/ii1ovMFKvH.
That website also has links to pre-order the print version of the book.#linearalgebra pic.twitter.com/GgvdTXfvdH

— Sheldon Axler (@AxlerLinear) October 29, 2023

先生の次のサイト
https://linear.axler.net/
にリンクがあります。

この本の講義ビデオへのリンクもこのサイトにのっています。また同じ著者の他のオープンアクセス版の教科書Measure, Integration & Real Analysisのダウンロードリンクが以下にあるのでご覧ください。
https://measure.axler.net/
それぞれ数学科の学部生や院生むけの教科書なので、生命科学のウエットの学生、研究者には難しいかもしれません。ダウンロードしてみて、読めそうだったら利用するとよいと思います。

Linear Algebra Done RightはSpringer Natureから紙の本が販売されているので、もちろんSpringer Linkからも無料でpdfがダウンロードできます。
https://link.springer.com/book/10.1007/978-3-031-41026-0

また昨日、東京大学の松尾研究室の博士課程に在籍されている今井翔太さんの次のツイートがでました。

東京大学での講義資料をもとに，初学者向けに内容を調整した強化学習の資料を公開しました！https://t.co/9OTUmASWs6
元は講演や初学者向けセミナーの資料ですが,OpenAIが内部で開発しているらしい「Q*」という高性能AI（AGI?）が本資料で詳しいQ学習に関係があるとの盛り上がりを受けての公開です．… pic.twitter.com/RfWvbr7Mxz

— 今井翔太 / Shota Imai@えるエル (@ImAI_Eruel) November 24, 2023

スライドはこちらにあります。わかりやすそうです。　OpenAIの噂の人工知能Q*と関係があるアルゴリズムなんでしょうか？興味がつきない内容です。
https://speakerdeck.com/imai_eruel/reinforcement-learning-for-everyone

OpenAIのアルトマン解任騒動は決着したようでよかったです。なんか汎用人工知能AGIに近づくような画期的人口知能システムQ*が開発されてその扱いをめぐって解任騒動が起こったという噂もあるようですね。本当でしょうか？

ちょうど本日、YouTubeに、OpenAIの創業にかかわったAndrej Karpathyさんの大規模言語モデル (LLM)入門の１時間の講演がアップロードされました。
[1hr Talk] Intro to Large Language Models
https://youtu.be/zjkBMFhNj_g?si=MjMQAZBXZYgZPEzg

もともとはAI Security Summit (今年の11月14-16日開催。参加は招待されたもののみ可能）での講演だったのですが、講演は評判が良く、聞きたかったという人が大勢いたそうです。そこで新たに講演を再現したdirector’s cut版の講演動画を作り、スライドもダウンロードできるようにしたうえでYouTubeに公開したそうです。
Andrej KarpathyさんはOpenAIの中の人なので、これはおすすめの動画です。講演はオープンソースの Llama 2 70Bを例にとってのLLMの解説から始まります。LLMの中身にはどんなフォルダがあるのか、興味津々ですよね。中身の二つのフォルダ(巨大なパラメーターを記述したフォルダと、LLMを動かすコードを記述したフォルダ）をMac Bookにダウンロードして、一方のフォルダにあるC言語でかかれたコードを動かすと、ネットにつながっていなくても自分のパソコンでLLMが動くのだそうです。もっともHDD容量がものすごく必要ですし、回答がでるまでには結構時間がかかるのはパソコンですからしかたがありません。こんな説明の後には、LLMの動作原理、transformerの話、ハルシネーションの話などが続きます。ニューラルネットワークのパラメータがどのように相互作用してAIがちゃんとした回答をするのかの詳細はほとんどわかっていないそうです。制御できるのは、どうやってより正しい回答をするようにAIを訓練、調整するかだそうです。　ChatGPTのトレーニングはどのように行われているかとか、適切なプロンプトの与え方についての説明も役立ちます。もちろん最近使えるようになってGPTsの紹介もあります。注目すべきは、今後のAIの発展の話です。あと数年以内に現在のChatGPTにSystem 2が追加された形の汎用人工知能もどきが登場するようです。見て、話して、自分でネットを調べて、正確な推論ができる人工知能の登場は間近だそうです。最初に書いた、今噂のQ*のことなのでしょうか。面白い動画です。またAIのセキュリティの話（爆弾を作る方法とか人類を滅亡させる方法を教えてとLLMに問いかけても、答えを教えないようになっているのをどうやって答えさせるか（いわゆるjail breakのやり方）の話もあります。またプロンプトインジェクションの話もしっかり入っていて、これは必見の動画です。是非ご覧になることをおすすめします。