Posts

들어가며 나쁘지 않은 크리스마스. 책을 읽는게 재미있다. 해야 할 일을 내팽개쳐서 좋은 걸까. 하류지향 이라는 책을 읽고 이런저런 생각이 난다. 생각난 김에 몇 가지의 책을 읽어봤다. 가끔, 책을 읽고 이렇게 살아야지 싶은 때가 있는데, 잠깐은 바뀌는 것 같은데 결국 원래대로 돌아오고 말아버리는 것이다. 책을 읽기 전과 읽은 후가 같다면 그건 책을 읽은 것이 아니다 라고 아마 앙드레 지드가 얘기했던 것 같은데... 저…

들어가며 가난에 관한 내 경험을 다루는 글이며 일반화될 수는 없다고 생각한다. 어느 정도의 가난이냐면... 이를테면 제주도 수학여행을 못 가지는 않았지만, 수학여행비를 마련하기 위해 부모님이 고생을 했을 정도이다. 초등학교 때 친구따라 태권도 학원은 다닐 수 있었지만, 중학교 부터 공부를 가르치는 학원에 다니지는 않았다. 집을 위해 돈을 일찍 벌려고 특성화고에 진학했지만, 막상 대학교에는 올 수 있었던 정도의(다분히…

Cogswell Regularization Cogswell Regularization has been proposed by [1] in 2015. This is based on the following observations Embeddings are spread on the Euclidean Space. If two feature vectors are different, then their representations…

잡담. 자주 듣는 얘기가 있다. 어떤 일이 A, B, C, ..., Z 이렇게 순차적으로 이뤄진다고 할 때, 나는 A 설명했다가, B, C, ..,D까지 스킵하고는 E를 설명했다가, F를 한참 설명하다, 다시 B가 필요해진 것 같아 B를 설명하는 식이라고 한다. 한두 명만 이런 얘기를 하는 게 아니라, 나랑 가깝게 일을 한 모두가 비슷한 얘기를 하는 걸로 봐선, 좀 문제가 있는 것 같다. 상대방과 내가 같은 지식과 한계를…

잡담 ICLR 2019에 실린 Stochastic Optimization of Sorting Networks via Continuous Relaxations 의 리뷰. 글을 안 쓴 지 너무 오래되서 글을 쓰는 방법을 잊어버린 것 같다.;; Motivation 정렬이나 top-k element를 선택하는 일은 여러 머신 러닝 task에서 기본적인 연산 중 하나이다. 그런 예시 중 하나로, vector q q q 가 주어졌을…

잡담 유명 추천 시스템 라이브러리 2개에 involve되어 있긴 한데, 생각해보니 추천 시스템 알고리즘을 스크래치부터 구현해 본 적이 거의 없는 것 같다. Logistic matrix factorization을 implicit에 구현해보긴 했는데... 그래서, 과연 나는 추천 시스템 알고리즘을 충분히 빠르게 구현할 수 있을까? 하는 생각이 들었다. 생각한 김에 바로 해봤다. 주말에 할 게 없기도 했었고... 사용할…