並行コンピューティング技法という本をやり終えました。

2018/08/29 05:37:39

夏季休暇中 (8/11 - 8/19) の課題としてはじめた並行コンピューティング技法 ―実践マルチコア/マルチスレッドプログラミングという本を、先日ようやくやり終えました。

久しぶりに技術書的な本を一冊やりおえたので、本の紹介や思い出日記を書きます。

今回の学習について

仕事では Ruby、JavaScript を主に使っていますが、個人的には Go 言語を使いこなせるようになりたいと思っています。

Go 言語には並列処理を簡単にハンドリングできる goroutine という仕組みがあります。並列処理のための排他制御や終了を取りあつかうための仕組みも準備されており、使用開始は容易です。

しかし、何を並列化できるか、並列化をどのように行うかという素養が全くありませんでした。外部 API に対するリクエストなど並列化のメリットがわかりやすいものはともかく、一般的な処理になるとお手上げです。

そこで言語の機能やライブラリの使用法ではなく、並列化自体を解説しているこの本をやろうと思い至りました。

など、よりよく学習するための方法が紹介されています。

今回たまたまいくつかの点を満たして学習を開始しました。能動的にという点は当初より読書メモを残すということで無意識にやっていましたが、メモをより明確な意図を持って行うようになりました。

時間をおくという点については、あるアルゴリズムを並列化した直後ではなく、次のアルゴリズムの途中かそれが終わってからメモをおこすことで実践してみました。本ではなく実装前にノートに書いたメモ書きや記憶やコードを頼りに書くことにより、再び考える機会が訪れて良かったように思います。

この日記の後段でも作成した図とともに学習した内容について触れています。これもまた分散学習の一助になるように思います。

説明の有効性については、最近読んだ知ってるつもり――無知の科学でも言及されていました。学習という観点ではなく、人がどれだけ自分の無知に無自覚であるかを検査する方法 (物事を説明しようとすることにより自分がどれだけその物事について知らないかを自覚する) としての紹介でした。

自分に対して説明することにより本当に理解できたかどうか検査できるので、有用性は確かなものであるようです。(実際コードを書きおえて動くようになってから説明を書いてみて、理解がずれていることに気づいたアルゴリズムがありました)

並列化において念頭におかなければならないことを解説しています。

逐次処理で行われていたものを並列化するので、
- 並列化処理を実装すること自体がオーバーヘッドであること。
- 並列化実行コストが必ずオーバーヘッドであること。
適切な処理の粒度にしないと無用なオーバーヘッドを生むこと。
並列化スレッド同士の処理順序は絶対に予測不可能なこと。
処理の中にはある処理が出した結果が他の処理に影響を与える場合があり、それをなんらかの方法で並列化した処理同士で共有する必要があること。
処理の中には同じデータ領域を読み書きする場合があり、排他制御が必要なこと。
扱うデータの範囲によって並列化する場合は、そのデータの形によって最終的なデータ統合の処理の量が変わること。

など、実際に並列化を数多く行ってきた著者が、実際的な問題として語ってくれます。