[WIP]

앞서서

/ml/2021/04/10/about-pattern-recognition.html 을 보고 오면 좋을 듯…해요…

Concept가 $A \rightarrow p(r)$인 경우를 다룬다. $p(r)$의 Support는 $[0, 1]$이다. 글 군데군데 support가 ${0, 1}$인 경우를 가정하고 적힌 부분이 있는데, 문맥에 따라 이해하기 어렵지 않을 것 같아 자세히 명시하지 않았음.

MAB의 독특한 점.

• MAB에서 특정 가설 $h$에 대한 손실 함수를 Regret, 혹은 Reward라 부른다.
• MAB에서는 특정 observation $(a, r)$이 현재 가설 $h$에 의존적이다.
  • e.g., 가위바위...

들어가며

• Note: 기본적으로, 패턴 인식은 여러 분야에서 발전했다기보다.. 저도 이곳저곳 주워들어가며 공부해서 이론적인 지식을 사혼의 구슬 모으듯 조금조금 모았기 때문에, 개인적으로 사혼의 구슬 조각 여러 개가 모인 게 아니라, 하나의 지식 덩어리로 이해하고 싶어서 정리하는 내용이기도 합니다. 틀린 부분이 많고 딱히 검증되거나 proofreading을 받은 적도 없습니다. 따라서, 누군가가 읽고 지적해주면 짱 좋을 것 같습니당.

머신 러닝이 뭘 하는 걸까?

이 장에서의 예시는, $\mathcal{X} = $ (키, 몸무게) 공간, $\mathcal{Y}=$ 생물학적 성별 = {남성, 여성}이라고 생각하면 좋다. $x$, $y$는 각각 $\mathcal{X}$, $\mathcal{Y}$의 한 원소를 말한다.

Let define a ...

나심 탈렙의 생각에서.

나심 탈렙의 책을 두 권 읽었다. Skin in the game, Fooled by randomnes 두권. 왜 논문 마감만 앞에 두면 딴짓이 참 재미있어지는지 모르겠다. 어쩌면 삶의 질을 더 높이기 위해서는, 일에 치이는 것이 정답일 지도 모르겠다. 일에서의 피로를 보충하기 위해, 취미생활을 더 열심히 하게 될 것 같다.

글의 절반 정도는, 내가 평상시 하던 생각과 비슷한 생각들이 정교한 확률론적 접근과 경험으로 backup되고 있었다.그래서 나머지 절반은, 내가 앞으로 하게 되거나, 다른 업계에 존재했다면 하게 될 생각이라고 믿기로 했다. 책 내용에 대해서는 차치하자. 저자가 말한 대로, 저자의 생각이 내 안에서 Distilled되기 전까지는, 그 생각을 내 가슴으로 신뢰하지 않을 거니까.

내가 타인에게 느끼는 호감과 ...

들어가며

이해의 목적으로, 내가 쓴 글을 남이 본다고 할 때 별 도움은 안되는 것 같다. 내가 이런 글을 쓰는 목적이 다른 사람을 이해시키려고 하는 게 아니기도 하고.. 이해를 정말 잘 해보고자 한다면, 분명 더 좋은 사람이 있을 거 같고, 별로 새롭거나 참신한 내용을 쓸 정도로 내가 전문가도 아니당.

Graph Representation Learning Book의 일부 챕터에 대한 요약이고, 내가 중요하게 생각하거나 이해를 못한 부분이 당연히 강조되어 있다.

Prerequiste;

\(G = (V, E, X_v, X_e)\), \(v \in V = \{1, 2, \dots, n\}\), \(e \in E \subseteq V \times ...

들어가며

가난에 관한 내 경험을 다루는 글이며 일반화될 수는 없다고 생각한다. 어느 정도의 가난이냐면… 이를테면 제주도 수학여행을 못 가지는 않았지만, 수학여행비를 마련하기 위해 부모님이 고생을 했을 정도이다. 초등학교 때 친구따라 태권도 학원은 다닐 수 있었지만, 중학교 부터 공부를 가르치는 학원에 다니지는 않았다. 집을 위해 돈을 일찍 벌려고 특성화고에 진학했지만, 막상 대학교에는 올 수 있었던 정도의(다분히 국가장학금 때문이었다), 그런 정도의 가난에 대한 얘기다.

절대적, 상대적 가난

가끔 젊은 사람이 느끼는 가난 조금 더 일반적으로는 젊은 사람이 겪는 고통에 대해, 옛날엔 더 힘들게 살았다는 얘기를 하는 사람들이 많다. 사람마다 얘기하는 ‘옛날’은 제법 다르다. 70년대, 일제 치하, 더 심한 사람들은 가끔 증기 기관이 발명되기 이전 시대를 언급하기도. 이런 얘기를 하는 ...

Cogswell Regularization

Cogswell Regularization has been proposed by [1] in 2015. This is based on the following observations

• Embeddings are spread on the Euclidean Space.
• If two feature vectors are different, then their representations are different. It would be good to fill the embedding space with a similar density of embeddings if they are in the range of the input network.

So [1] Proposed the following obj...