728x90 반응형 NLP/딥러닝 활용1 openNMT 관련 파라미터 Transformer model 사용 - config (quickstart에 있는 ex와 example안에 transformer yml 참고) param_init_glorot & param_init 0: correct initialization of parameters; position_encoding: add sinusoidal position encoding to each embedding; (true) optim: "adam", decay_method: "noam", warmup_steps: 8000: use special learning rate; batch_type: "tokens", normalization: "tokens" : batch and normalize based on number .. 2022. 6. 2. 이전 1 다음 728x90 반응형