moroqq82

1987年生まれ。2011年鉄鋼会社入社後、2018年半導体業界へ。2022年別の会社へ転職。技術的なこととビジネスに興味があります。本好き。

moroqq82

1987年生まれ。2011年鉄鋼会社入社後、2018年半導体業界へ。2022年別の会社へ転職。技術的なこととビジネスに興味があります。本好き。

深層学習の二重降下が分かったかもしれない

１．はじめに 機械学習では、モデルサイズを大きくしていくとtest誤差が下がったのち上がってしまう（過学習）ことが知られていますが、深層学習ではこれに反し非常に大きなモデルでは、過学習になったのち学習を続けるとtest誤差が下がっていく（最初下がって一回上がってまた下がるので「二重降下」）現象が知られています。 ちょっと調べた結果、なんとなく説明できる理屈を思いついたのでメモしておきます。 ２．二重降下現象の直感的説明　二重降下は一度パラメータがtrainingデータを完全

moroqq82

    • 排除と包摂、どちらがより多くの人を救えるか

      最近迷っていることがある。 コミュニティの価値観で望ましくないと判断される人を排除するのか、 それとも、その望ましくなさから狂ったように学び、そのコミュニティにいても良かったと言えるくらい周りもその人も努力し、結果的に包摂の実現を目指すのか、 どちらが良いのかということだ。 優秀じゃない人っているよねどんなコミュニティにも、そのコミュニティの価値観からすると望ましくない、つまり会社の価値観で「優秀ではない」と言われる人がいる。会社なら「優秀かそうでないか」、社会なら「善良か

      moroqq82

      • 人間に準ずる知能の実現について

        chatGPTに代表される生成系AIの発展が目覚ましい昨今、すぐにでも人間並みの知能が実現されるかのような、そしてそれによってすぐにでも人類は滅びるなどという言説が見られるようになりました。 私が思うにまだまだ遠いと思われるので、いくつかの予言を残しておこうと思います。 １．触覚どうする問題今存在するロボットと人間のセンサとしての最も大きな違いは皮膚です。皮膚並の高密度触覚・温度センサ（それも柔らかい身体へ埋め込まれた柔らかく耐久性の高いセンサ）は存在しません。そのため、

        moroqq82

        • 採用面接を受けるときに本質的に重要なこと

          本noteでは、就活生や転職を検討している人向けに、「面接で通る可能性を高めるために重要なこと」だと私が考えることを書きたいと思う。 面接でやっていることはそもそも何か面接というのは、一緒に働く人を選ぶため行うものである。しかし、人間は「一緒に働くことが社にとって有益である人物を純粋に合理的に選択する」ことは困難であるようで、往々にして人を選ぶにあたって「安心したがる」傾向があるように私には思われる。 例えば、求職者に以下の傾向などがあれば安心すると思われる。 　--採用し

          moroqq82

          会社の選び方について

          本noteでは、社会人経験１０年を経てようやく会社の選び方が分かったような気がするので、就活生や転職を検討している人、あるいは企業の採用担当者向けに、「どんな会社に入ったら良いのか」「どんな人を採用したら良いのか」ということを書きたいと思う。 どういう会社に入れば良いのか結論「趣味が合う会社」に入れば良い。 趣味が合うとは２つの意味があり、 １） 仕事内容や技術・分野に興味がある ２） 社員さんと気が合う がある。 なぜかを説明していく。ここからは会社側からの視点になる。

          moroqq82

          会社の選び方について

          moroqq82

          不景気・デフレの理由についての仮説

          本noteでは、特に日本における恒常的なデフレと不景気の原因について仮説を提示したいと思う。 景気がいい、悪いとは何か　景気がいいとは人々の消費意欲が旺盛で金の回りが良い状態、景気が悪いとはその逆だと考える。ここで「消費意欲」とは何かという問題がある。これは「欲望」と言い換えられると思う。 加齢に伴う欲望の変遷　若いときは新しい経験・情報を求めているが、中年～高齢になってくると新しい経験よりはかつて経験したことを再現したいと思う欲が出てくるように思う。この理由は定かではな

          moroqq82

          不景気・デフレの理由についての仮説

          moroqq82

          うつ病の原理について

          このnoteでは私がうつ病になられた方との会話などを通じてうつ病の一般原理となる仮説を立てるに至ったのでそれを説明する。合わせてうつ病にどう対処したらよいかについての私案と思いを書く。 何がうつ病の原因なのか「２つ以上の『同時に成り立たない』願いを持ってしまうこと」が原因だという仮説を提示したい。 例えば、 　①仕事では絶対に同僚やお客様の役に立ちたい 　②そのために必要な仕事の中の〇〇は絶対にやりたくない という願い（≒欲求）を持ってしまうと、絶対にやりたくない仕事をする

          moroqq82

          うつ病の原理について

          moroqq82

          ソフトウェア企業と製造業の企業のマネジメントの違いに関する考察

          私は製造業の大企業を2社経験していますが、マネジメントの有り様について思うところがあり、まとめてみたいと思います。 一つ間違えるとただ動かないプログラム、一つ間違えると人が死ぬ現場　私は業務で社内用のごく簡単なwindowsアプリケーションをVisual StudioでC#で作成したことがあります。また、pythonで画像処理や機械学習のプログラムを作り、社内の別の部署に提供したこともあります。 一方、製鉄所で働いていたときは、毎日の工場の朝会の始まりは「安全」でした。工場

          moroqq82

          ソフトウェア企業と製造業の企業のマネジメントの違いに関する考察

          moroqq82

          MMTと現代社会と人間心理について

          最近MMT(Modern Monetary Theory)という「過剰なインフレにならないように制御すれば、財政赤字がいくら増えてもOK」なる異端の学説が注目を浴びているようです。いろいろと考えることがあったのでとりとめもなくまとめてみようと思います。 MMTとは簡単に言うと「借金なんぼでもしていいよ」理論通常財政赤字は良くないもので、借金なんだからちゃんと返せるように黒字にしないといけないと考えるものです（財政規律）。しかし、昨今では日銀の異次元緩和のように政府は赤字国債

          moroqq82

          MMTと現代社会と人間心理について

          moroqq82

          汎用AI実現のために必要なこと

          最近AIという言葉が世間を騒がせていますが、人間のような知能を持つ「強いAI」である汎用AIはまだ実現されていません。これについて、どういったことが実現されれば汎用AIが出現し得るか考えたので、noteにまとめてみます。 現時点（２０１８年９月）におけるAIのできること現時点におけるAIは下記のようなことができると認識しています。（キャッチアップできていない部分はあろうかと思いますがご容赦ください） 　・画像の分類、言語説明（画像は動画を含む） 　・一定のルール下での最適解

          moroqq82

          汎用AI実現のために必要なこと

          moroqq82

          個人情報の対価とベーシックインカム

          ベーシックインカムについて思うところがあり、noteにまとめてみます。 個人情報を対価として「販売」することで、販売した個人が利益を得るという形での疑似ベーシックインカムならありうるのではないか、と思っています。 ベーシックインカムについてベーシックインカムとは、既存のややこしい社会保障の仕組みを一旦まっさらにして全国民に一律数万円/月のお金を配布するという社会保障の考え方であり、昨今様々な国・地域で実験が行われています。 なぜ、このような考え方が着目されているかに関す

          moroqq82

          個人情報の対価とベーシックインカム

          moroqq82