복잡한 해법을 통해 문제를 풀도록 교육받고, 선택받고, 보상받은 사람들이 단순한 해법을 제안할 이유도 사실 찾을 수 있는 능력도 없다. 나심 니콜라스 탈렙, skin in the game 책 어디에선가, 생각나는 대로 적어 옮겨서 정확하지 않음
몇 년 전에 처음 읽었을 때는 “그런 사람이 어딨어 ㅋㅋㅋ”하는 생각을 했었는데 잘 생각해보면 비슷한 사례를 많이 찾을 수 있었고, 많이 경험했다. 나도 단순한 게 아니라 복잡한 해결책을 찾아내던가, 아니면 단순한 해결책을 복잡하게 보이는 데 관심사가 있는 것 같다.
첫번째로 수단과 목적이 바뀌는 점을 들 수 있다. 예를 들면, 어떤 특정한 방법에 대한 논문을 읽고 나서 이 논문이 제안한 방법을 내 일에서도 활용할 방법이 있지 않을까 생각하게 된다. 사실 올바른 방법은 내가 처한 상황, 혹은 겪고 있는 문제를 잘 생각해본 다음 이 문제를 해결할 방법을 어딘가에서 찾는 것이 더 올바르다. 이를테면, 4-stage recommendation이라는 걸 보고 “간지나네?”라고 생각해서 이것저것 뒤져보고 헤메본 경우라던가. 사실 배치 업데이트로도 충분한 경우가 많고, 아이템의 수가 그리 크지 않은 경우 candidate generator와 ranker를 분리할 필요도 없을 것이다.
necessity precedes art라는 말을 가끔 생각하자.
두번째로는 괜히 내가 한 일을 복잡하게 포장하려고 한다는 점이다. 논문을 쓸 때 인트로에 막 이 연구분야는 언제쯤부터 많은 관심을 받기 시작해서 막 리서치하는게 막 엄청 무진장 중요하고 이런 계보가 있고…하는 마태복음 1장 1절같은 말을 적는다던가. 사실 내가 쓴 논문들이 막 그렇게 중요하지는 않았다. 뭐 그렇게 포장하려고 하지 말자. 내 인생도 그렇고, 내가 하는 일도 그렇고. 무언가가 복잡해져서 내가 이득을 보는 상황이라면 분명 일이 잘못된 것이거나, 내가 변호사로 직업을 바꾼 거거나 할 거다.
Plurality is never to be posited without necessity라는 말도 가끔 생각하자.
결론
망치를 든 사람은 세상 모든 것이 다 못으로 보이게 된다. BERT만 아는 머신러닝 엔지니어는 모든 일을 대해 패러미터 수가 적어도 수천만개는 되는 라지스케일 BERT로 해결하려고 할 것이다.
複雑な解法で問題を解くよう教育され、選抜され、報酬を得てきた人には、単純な解法を提案する理由も、それを見つける能力もない。 ナシーム・ニコラス・タレブ『身銭を切れ』のどこか。記憶を頼りに書いているので、正確な引用ではない。
数年前に初めて読んだときは「そんな人がいるものか」と思った。しかし考えてみると、似た例はいくらでも見つかるし、自分でも何度も経験していた。私自身も、単純な解決策を探すより複雑な解決策を探したり、単純な解決策を複雑に見せたりすることに関心があるようだ。
一つ目は、手段と目的が入れ替わることだ。ある手法を提案する論文を読むと、まずその手法を自分の仕事で使える場所を探してしまう。本来は、自分が置かれた状況や問題を先に考え、それを解く方法を探すべきだ。たとえば4-stage recommendationを見て格好いいと思い、あれこれ調べ回ったことがある。しかし、バッチ更新だけで十分な場合も多いし、アイテム数がそれほど多くなければcandidate generatorとrankerを分ける必要もないだろう。
ときどき
Necessity precedes art.という言葉を思い出そう。
二つ目は、自分の仕事をむやみに複雑に見せようとする癖だ。論文の序論で、この研究分野がいつから注目され、どんな系譜を持ち、なぜ重要なのかを、まるで『マタイによる福音書』第1章第1節のように並べてしまう。実際には、私の論文はそこまで重要ではなかった。自分の人生も仕事も、わざわざ複雑に飾らないようにしよう。何かが複雑になることで私が得をするなら、仕事の設計が間違っているか、私が弁護士に転職したかのどちらかだ。
ときどき
Plurality is never to be posited without necessity.という言葉も思い出そう。
結論
ハンマーを持つ人には、すべてが釘に見える。BERTしか知らない機械学習エンジニアは、どんな問題も少なくとも数千万パラメータを持つ大規模なBERTで解こうとするだろう。
那些受过训练、经过筛选并因使用复杂方法解决问题而获得回报的人，既没有提出简单方案的理由，也未必有发现简单方案的能力。 纳西姆·尼古拉斯·塔勒布《非对称风险》中的某处。这里凭记忆转述，并非准确引文。
几年前第一次读到这句话时，我想的是：“哪有这种人。”但仔细想想，类似的例子到处都是，我自己也经历过不少。我似乎也更热衷于寻找复杂的解决方案，或者把简单方案包装得复杂，而不是直接寻找简单方案。
第一种情况是手段和目的发生倒置。读到一篇提出某种方法的论文后，我会先去寻找能把这种方法用到自己工作里的地方。其实更合理的顺序，是先理解自己所处的情境和面对的问题，再寻找解决它的方法。比如，我曾觉得4-stage recommendation很酷，于是四处查资料、反复折腾。但很多场景用批量更新已经足够；如果物品数量并不多，也未必需要把candidate generator和ranker拆开。
偶尔提醒自己：
Necessity precedes art.
第二种情况，是无端把自己做的事情包装得很复杂。写论文引言时，我常常大谈这个研究领域从何时开始受到关注、沿着怎样的谱系发展、又为何无比重要，仿佛在写《马太福音》第一章第一节。事实上，我写的论文并没有那么重要。无论是人生还是工作，都不必刻意包装得复杂。如果一件事变得复杂会让我获益，那多半是工作本身出了问题，或者我已经改行做了律师。
也偶尔提醒自己：
Plurality is never to be posited without necessity.
结论
手里拿着锤子的人，看什么都像钉子。只懂BERT的机器学习工程师，会试图用至少拥有数千万参数的大型BERT来解决所有问题。
People trained, selected, and rewarded for solving problems with complicated methods have neither the incentive nor necessarily the ability to propose simple ones. Somewhere in Nassim Nicholas Taleb’s Skin in the Game. This is from memory, not an exact quotation.
When I first read this a few years ago, I thought, “Surely nobody is like that.” On reflection, I have seen and experienced plenty of examples. I may be more interested in finding a complicated solution—or making a simple one look complicated—than in finding the simple solution itself.
The first problem is confusing means with ends. After reading a paper that proposes a particular method, I start looking for somewhere to use it in my own work. The sounder order is to understand the situation and the problem first, then look for a way to solve it. I once saw a four-stage recommendation system, thought it looked impressive, and wandered through a great deal of related material. Yet batch updates are often enough, and when the item set is not very large, there may be no need to separate the candidate generator from the ranker.
Remember from time to time:
Necessity precedes art.
The second problem is my habit of making my work sound needlessly complicated. In a paper’s introduction, I may trace when the field began attracting attention, explain its lineage, and proclaim its importance as if I were writing Matthew 1:1. In truth, my papers were not that important. I should not overcomplicate the story of my work—or my life. If I benefit when something becomes complicated, either the work has gone wrong or I have changed careers and become a lawyer.
Also remember:
Plurality is never to be posited without necessity.
Conclusion
To someone with a hammer, everything looks like a nail. A machine-learning engineer who knows only BERT will try to solve every problem with a large BERT model containing at least tens of millions of parameters.