Artificial Intelligence/Deep Learning

[DL] Layer Normalization(레이어 정규화)

inee0727 2022. 10. 14. 12:22

정규화가 은닉층 별로 이루어진다.

배치사이즈의 영향을 받지 않는다.

Layer Normalization을 사용하면 시퀀스 길이를 자유롭게 변경할 수 있다.