U <ºcG ã @s<dZddlZddlZddlmZddlmZddlmZm Z m Z ej e j ddZ e dƒe d ¡eje jd œd d „ƒƒƒZe d ƒejde jd œdd„ƒƒZe dƒejde jd œdd„ƒƒZe dƒe d d ¡eje jd œdd„ƒƒƒZe dƒe d d d d d dddd¡ eje jd œdd„ƒƒƒZe dƒeje jd œdd„ƒƒZdS) a&This file exports ONNX ops for opset 14. Note [ONNX operators that are added/updated in opset 14] ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ New operators: HardSwish, Trilu Updated operators: Reshape Add, Sub, Mul, Div GRU, LSTM, RNN BatchNorm, Cumsum, Relu éN)Úsymbolic_helper)ÚGLOBALS)Ú _beartypeÚ jit_utilsÚ registrationé)Zopsetzaten::hardswishÚv)ÚgcCs | d|¡S)NZ HardSwish©Úop)r Úself©r ú?/tmp/pip-unpacked-wheel-gikjz4vx/torch/onnx/symbolic_opset14.pyÚ hardswishsrz aten::trilcCs|jd||ddS)NÚTrilur©Zupper_ir ©r r ZdiagonalÚoutr r rÚtril#srz aten::triucCs|jd||ddS)Nrérr rr r rÚtriu)srz aten::reshapecCstj|||ddS)Nr)Z allowzero)rZ_reshape_helper)r r Úshaper r rÚreshape/srzaten::batch_normÚiÚfc  CsÈt ¡r8t |||||g¡s8tjdkr8t dddd|¡St |d¡t ||||||¡\}}}}|j d||||||d||s€dnd|sŠdndd } |sš| S| \} } } |   |  ¡¡|   |  ¡¡| SdS) NéZBatchNormalizationrzaAll input tensors must have the same `dtype`. Turn off Autocast or export using opset version 15.Ú batch_normrré)Z epsilon_fZ momentum_fZtraining_mode_iÚoutputs) ÚtorchZis_autocast_enabledrZargs_have_same_dtyperZexport_onnx_opset_versionZ _onnx_opset_unsupported_detailedZcheck_training_modeZ_batchnorm_helperr ZsetTypeÚtype)r ÚinputZweightZbiasZ running_meanZ running_varZtrainingZmomentumZepsZ cudnn_enabledrÚresZnew_running_meanZnew_running_varr r rr8sTÿ ÿþûú ÿ   ö  rzquantized::hardswishcCs.t ||¡\}}}}t||ƒ}t ||||¡S)N)rZdequantize_helperrZquantize_helper)r ÚxZop_scaleZ op_zero_pointÚ_Úoutputr r rÚquantized_hardswishqs r&)N)N)Ú__doc__Ú functoolsrZ torch.onnxrZtorch.onnx._globalsrZtorch.onnx._internalrrrÚpartialZ onnx_symbolicZ_onnx_symbolicÚ parse_argsZbeartypeZ GraphContextrrrrrr&r r r rÚs8   ÿ6