Linear contextual bandit is a necessary tool in modern machine learning, especially in Recommender Systems. One of the difficulties of deploying it comes from that it involves an inverse operation. In this post, I will explain how to make it faster without removing inverse operation.

Cholskey Decomposition

It decomposes a positive-definite matrix into the product of a lower triangular matrix and its transpose. And, Covariance Matrix of Multivar...

우울

우울해서 죽고 싶은 행동을 했습니다. 사실 죽고 싶었고 싶었고, 제가 정말 죽고 싶은지 알고 싶었습니다. 일정한 확률로 죽을 지도 모릅니다.

후회

죽고 싶은 행동은 후회를 만듭니다. 사실은 죽고 싶지 않았던 것 같습니다. 살고 싶습니다. 그렇지만 죽음이 확률적으로 다가오고 있습니다.

살고 싶다는 의지

아직 살고 싶다는 의지가 있다는 사실을 이런 식으로만 확인해야 할까요? 이런 확인이 필요한 삶은 필요치 않은 것 같습니다.

행복했던 순간

아침 열 한 시 쯤 느즈막히 일어나, 함께 산책을 하고 시덥잖은 잡담을 하던, 기온이 24도 쯤 되던 어느 여름 아침. 내게 책임감이 주어져 있지 않았던 때.

제게 분명 행복했던 적이 없다고 하면 거짓말일 것입니다.

기본기

천재는 지루한 일도 비범하게 한다.

범사에 기한이 있고 천하 만사가 다 때가 있나니 날 때가 있고 죽을 때가 있으며 심을 때가 있고 심은 것을 뽑을 때가 있으며 죽일 때가 있고 치료할 때가 있으며 헐 때가 있고 세울 때가 있으며 울 때가 있고 웃을 때가 있으며 슬퍼할 때가 있고 춤출 때가 있으며 돌을 던져 버릴 때가 있고 돌을 거둘 때가 있으며 안을 때가 있고 안는 일을 멀리 할 때가 있으며 찾을 때가 있고 잃을 때가 있으며 지킬 때가 있고 버릴 때가 있으며 찢을 때가 있고 꿰맬 때가 있으며 잠잠할 때가 있고 말할 때가 있으며 사랑할 때가 있고 미워할 때가 있으며 전쟁할 때가 있고 평화할 때가 있느니라 전도서 3장 1-8절

이런 때는 내가 정할 수 있는 것은 아닌 것 같다. 나는 지금까지 놀 때였다. 의도한 것은 아니었지만, 이렇게 되어 버렸으니,

추천 시스템 모델을 만드는 사람에게 (생각보다 자주 벌어지는) 기분 나쁜 상황

모델을 열심히 만들었다. 근데 학습이 이상하게 느리다. 그래서 nvidia-smi를 눌러서 GPU 사용량이 얼마나 되나 확인해보면 utilization이 낮다. 대체로 0-10% 사이를 오가며, 아마도 내 딥러닝 모델이 계산을 하고 있을 것 같은 순간에만 GPU-Utilization이 20%를 넘는다. 사실, 이는 데이터의 형태를 적당히 바꿔서, GPU 메모리로 올리는 시간이 모델이 실제로 계산하는 시간보다 길다는 의미다. 이를 해결하기 위한 방법이 사실 많이 있다. 한가지 소개하자면 Click to read more ...

복잡한 해법을 통해 문제를 풀도록 교육받고, 선택받고, 보상받은 사람들이 단순한 해법을 제안할 이유도 사실 찾을 수 있는 능력도 없다. 나심 니콜라스 탈렙, skin in the game 책 어디에선가, 생각나는 대로 적어 옮겨서 정확하지 않음

몇 년 전에 처음 읽었을 때는 “그런 사람이 어딨어 ㅋㅋㅋ”하는 생각을 했었는데 잘 생각해보면 비슷한 사례를 많이 찾을 수 있었고, 많이 경험했다. 나도 단순한 게 아니라 복잡한 해결책을 찾아내던가, 아니면 단순한 해결책을 복잡하게 보이는 데 관심사가 있는 것 같다.

첫번째로 수단과 목적이 바뀌는 점을 들 수 있다. 예를 들면, 어떤 특정한 방법에 대한 논문을 읽고 나서 이 논문이 제안한 방법을 내 일에서도 활용할 방법이 있지 않을까 생각하게 된다. 사실 올바른 방법은 내가 처한 상황, 혹은 겪고 있는 문제를 잘 생각해본 다음 이 문제를 해결할 방법을 ...

8월 10일의 일기

대체로 입만 산 사람에 관해

물론 이 얘기는 저 같은 병신은 그런 일을 할 수조차 없어 부러움과 시기심에 하는 얘기입니다.

가끔 어떤 사람이 강의를 한다던가, 아니면 누가 유명인사로 어떤 티비, 혹은 유튜브에 출연한다는 얘기를 듣는다. 근데 그 어떤 사람은 내가 봤을 때엔 전문성도 그다지 없고, 그럭저럭 운이 좋았을 뿐더러, 자신이 운이 좋았던 줄도 몰랐던 사람이다. 이런 사람을 보면 벙커버스터…가 되고 싶지만, 사실 이런 사람은 모든 분야에 만연한 것 같다. 내가 포르투나에게 사랑받지 못했다는 사실은 납득이 되는데, 포르투나가 헤...