마법이 아니게 되는 순간 무언가를 배울 때는 항상 마법이다. 텐서플로우와는 다르게 왜 파이토치는 바로 실행이 되는가라던가. 물론 내가 관심있는 부분에 관한 얘기다. CPU, GPU의 동작도 충분히 마법이지만, 그 곳에 큰 열망이 생기지는 않는다. 살다가, 공부를 해서던, 익숙해져서던, 그 내부 동작이 이해가 갈 때가 생긴다. 다시 파이토치를 예로 들면, AutoGrad가 어떻게 동작하는지 대강 감이 온 순간이 나한테는…
일을 잘 하는 방법 그렇게 하고 있다는 얘기는 아니고 그런 방법이 보인다는 수준인데, 몇 가지 있는 것 같다. 다른 사람들이 할 수 있는 일이지만 이를 더 빠르게 하거나, 우선순위를 잘 맞춘다던가, 투입하는 시간이 많으면 일을 더 잘 할 수 있는 것 같다. 반대로 투입 시간이 너무 적으면 아무리 우수해도 일을 잘 할 수 없는 것 같다. 혼자서는 못 하는 일을 하는 것도 일을 잘 하는 방법 중 하나이다. 규모가 필요한 일이…
Linear contextual bandit is a necessary tool in modern machine learning, especially in Recommender Systems. One of the difficulties of deploying it comes from that it involves an inverse operation. In this post, I will explain how to make…
추천 시스템 모델을 만드는 사람에게 (생각보다 자주 벌어지는) 기분 나쁜 상황 모델을 열심히 만들었다. 근데 학습이 이상하게 느리다. 그래서 nvidia-smi 를 눌러서 GPU 사용량이 얼마나 되나 확인해보면 utilization이 낮다. 대체로 0-10% 사이를 오가며, 아마도 내 딥러닝 모델이 계산을 하고 있을 것 같은 순간에만 GPU-Utilization이 20%를 넘는다. 사실, 이는 데이터의 형태를 적당히 바꿔서,…
복잡한 해법을 통해 문제를 풀도록 교육받고, 선택받고, 보상받은 사람들이 단순한 해법을 제안할 이유도 사실 찾을 수 있는 능력도 없다. 나심 니콜라스 탈렙, skin in the game 책 어디에선가, 생각나는 대로 적어 옮겨서 정확하지 않음 몇 년 전에 처음 읽었을 때는 그런 사람이 어딨어 ㅋㅋㅋ 하는 생각을 했었는데 잘 생각해보면 비슷한 사례를 많이 찾을 수 있었고, 많이 경험했다. 나도 단순한 게 아니라 복잡한…
8월 10일의 일기 대체로 입만 산 사람에 관해 물론 이 얘기는 저 같은 병신은 그런 일을 할 수조차 없어 부러움과 시기심에 하는 얘기입니다. 가끔 어떤 사람이 강의를 한다던가, 아니면 누가 유명인사로 어떤 티비, 혹은 유튜브에 출연한다는 얘기를 듣는다. 근데 그 어떤 사람은 내가 봤을 때엔 전문성도 그다지 없고, 그럭저럭 운이 좋았을 뿐더러, 자신이 운이 좋았던 줄도 몰랐던 사람이다. 이런 사람을 보면 벙커버스터...가…