5월 26일의 일기

게으르다는 착각을 읽고

실제로 그렇게 성실히 살아온 것은 아니지만, 성실해야 한다는 압박감은 많이 느끼고 있었던 것 같다. 그런 압박감을 받아도 성실했던 적은 삶에서 많지 않았고, 죄책감을 느꼈던 적이 훨씬 많았다. 예를 들면 게임을 할 때 책상 위에 책이 놓여져 있으면 게임을 하면서도 죄책감이 들었다. 그렇지만 게임을 관둔 것은 아니었다. 죄책감을 느끼면서 게임을 했을 뿐이다.

죄책감을 느껴서 8시간 할 게임을 6시간만 했을지도 모르겠다. 그나마 이런 죄책감과 압박감을 받아왔기에 약간의 성실성을 발휘해 공부를 했던 것일까? 과거로 돌아가 다른 trajectory를 그려볼 수 없고, 현재에도 여러 trajectory를 다시 그려 볼 수 없기 때문에 알 수 없을 것 같다.

다른 것도 의심스러워진다. 애플워치나 핏빗같은 걸로 몸무게, 걸음 수를 트래킹하면 더 많이 걷고, 체중이 감소한다는 연구결과...

Click to read more ...

Embedding sets of vectors with EMDE

Translation of the post Embedding Sets of Vectors With EMDE

피쳐 엔지니어링으로서의 Vector Aggregation

EMDE는 인풋과 아웃풋만을 생각한다면, 벡터을 하나의 고정된 길이의 벡터로 변환하는 연산이다. 여러 벡터를 하나의 단일 벡터로 표현하는 연산은 그다지 쓸모가 없을 것 같지만 실제로는 상당히 흔한 연산이다. 특히 추천 시스템에서, 한 유저의 표현을 유저가 소비한 아이템의 목록으로 표현하기로 했을 때…

모든 음식들에 대한 좋은 임...

Click to read more ...

Well-Classified Examples are Underestimated...

Summary of the paper “Well-Classified Examples are Underestimated in Classification with Deep Neural Networks” of AAAI 2022

TL;DR;

  • I didn’t understand Energy related parts.

https://arxiv.org/abs/2110.06537

different losses/derivations w.r.t $p$ or $\theta$

where $p = \sigma(f(x))$ and $\sigma$ is sigmoid, and $f(x) \in \mathbb{R}^n$ is the o...

Click to read more ...

Reverse Maximum Inner Product Search

Summary of the paper “Reverse Maximum Inner Product Search: How to efficiently find users who would like to buy my item?” of Recsys 2021

TL;DL;

I modified proofs and procedures for more clear self-understanding.

https://arxiv.org/abs/2110.07131

Notations

  • $u_i$ in $Q$ (User vectors)
  • $p_j$ in $P$ (Item vectors)
  • $<a, b>$: dot product between $a$ and $b$.<...
Click to read more ...

개발자스럽게 공부하는 방법

잡담

웃기라고 가볍게 쓴 것도 있는데 실제로 이렇게 공부하는 방식이 개인적으로는 도움이 많이 되었다.


1. 공부할 거리를 찾는다(혹은 해야지 생각만 하고 있던 것들을 잡는다)

나는 JAX (쉽게 설명하면 Yet Another Autodiff Framework)를 공부하고 싶었다. 좋아보이는데 쓸 기회가 없었다. 간지나보이긴 하는데 써 본적이 없는 상황이 1년 정도 되었던 것 같은데, 마침 시간도 남아서 공부하기로 했다.

2. 공부하고...

Click to read more ...

친숙함에 관해, 혹은 수학 우물을 피하는 방법에 대해

잡담

soft question - On “familiarity” (or How to avoid “going down the Math Rabbit Hole”?) - Mathematics Stack Exchange

혼자 독학하다가 첨에 엄청 쩔쩔매다 공부 방법을 바꿨었는데, 뭔가 엄청 공감가는 글이라 보고 기억해두기 위해 번역한 뒤 올림. 저 스레드를 다 번역할 수는 없어서, 그냥 내가 생각하기에 중요한 부분만 가져왔음.

누구든 수학을 혼자 공부해본 사람은, 수학 우물에 빠져본 적이 있다.

예를 들어, 새로운 단어인 Click to read more ...