Captum ┬╖ Model Interpretability for PyTorch
PyTorch рдореЗрдВ рдореЙрдбрд▓ рдХреА рд╡реНрдпрд╛рдЦреНрдпрд╛ рдХрд░реЗрдВ
рдЕрд╡рд▓реЛрдХрди
Captum ┬╖ Model Interpretability for PyTorch рдХреНрдпрд╛ рд╣реИ?
рдХреИрдкреНрдЯрдо рдореЙрдбрд▓ рд╡реНрдпрд╛рдЦреНрдпрд╛ рдХреЗ рд▓рд┐рдП рдПрдХ PyTorch рд▓рд╛рдЗрдмреНрд░реЗрд░реА рд╣реИред рдпрд╣ рджреГрд╖реНрдЯрд┐ рдФрд░ рдкрд╛рда рд╕рд╣рд┐рдд рд╡рд┐рднрд┐рдиреНрди рддреМрд░-рддрд░реАрдХреЛрдВ рдореЗрдВ PyTorch рдореЙрдбрд▓ рдХреА рднрд╡рд┐рд╖реНрдпрд╡рд╛рдгрд┐рдпреЛрдВ рдХреЛ рд╕рдордЭрдиреЗ рдФрд░ рд╡рд┐рд╢реЗрд╖рддрд╛ рджреЗрдиреЗ рдХреЗ рд▓рд┐рдП рдЙрдкрдХрд░рдг рдФрд░ рддрдХрдиреАрдХ рдкреНрд░рджрд╛рди рдХрд░рддрд╛ рд╣реИред рдХреИрдкреНрдЯрдо рдЕрдзрд┐рдХрд╛рдВрд╢ PyTorch рдореЙрдбрд▓ рдХрд╛ рд╕рдорд░реНрдерди рдХрд░рддрд╛ рд╣реИ рдФрд░ рдирдП рд╡реНрдпрд╛рдЦреНрдпрд╛рддреНрдордХ рдПрд▓реНрдЧреЛрд░рд┐рджрдо рдХреЗ рдЖрд╕рд╛рди рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдФрд░ рдмреЗрдВрдЪрдорд╛рд░реНрдХрд┐рдВрдЧ рдХреА рдЕрдиреБрдорддрд┐ рджреЗрддрд╛ рд╣реИред
Captum ┬╖ Model Interpretability for PyTorch рдХрд┐рд╕ рд▓рд┐рдП рдЙрдкрдпреЛрдЧ рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ?
рдЯреИрдЧ
рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛ рд╕рдореВрд╣

рд╢реАрд░реНрд╖ рд╕реБрд╡рд┐рдзрд╛рдПрдВ
- рдорд▓реНрдЯреА-рдореЙрдбрд▓ рд╡реНрдпрд╛рдЦреНрдпрд╛рддреНрдордХрддрд╛ рд╕рдорд░реНрдерди
- PyTorch рдкрд░ рдирд┐рд░реНрдорд┐рдд
- рдПрдХреНрд╕реНрдЯреЗрдВрд╕рд┐рдмрд▓ рдФрд░ рдЦреБрд▓рд╛ рд╕реНрд░реЛрдд
Captum ┬╖ Model Interpretability for PyTorch рдХрд╛ рдЙрдкрдпреЛрдЧ рдХреИрд╕реЗ рдХрд░реЗрдВ?
рдХреЛрдВрдбрд╛ рдпрд╛ рдкрд┐рдк рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗ рдХреИрдкреНрдЯрдо рд╕реНрдерд╛рдкрд┐рдд рдХрд░реЗрдВред Captum.attr рд╕реЗ рдЖрд╡рд╢реНрдпрдХ рд▓рд╛рдЗрдмреНрд░реЗрд░реАрдЬрд╝ рдЬреИрд╕реЗ numpy, рдЯреЙрд░реНрдЪ рдФрд░ рдЗрдВрдЯреАрдЧреНрд░реЗрдЯреЗрдбрдЧреНрд░реЗрдбрд┐рдПрдВрдЯреНрд╕ рдЖрдпрд╛рдд рдХрд░реЗрдВред рдЕрдкрдиреЗ PyTorch рдореЙрдбрд▓ рдХреЛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░реЗрдВ рдФрд░ рддреИрдпрд╛рд░ рдХрд░реЗрдВред рдПрдХ рд╡реНрдпрд╛рдЦреНрдпрд╛рддреНрдордХрддрд╛ рдПрд▓реНрдЧреЛрд░рд┐рдереНрдо рдХреЛ рддреНрд╡рд░рд┐рдд рдХрд░реЗрдВ (рдЙрджрд╛рд╣рд░рдг рдХреЗ рд▓рд┐рдП, рдЗрдВрдЯреАрдЧреНрд░реЗрдЯреЗрдбрдЧреНрд░реИрдбрд┐рдПрдВрдЯреНрд╕)ред рдПрдЯреНрд░рд┐рдмреНрдпреВрд╢рди рдФрд░ рдХрдиреНрд╡рд░реНрдЬреЗрдиреНрд╕ рдбреЗрд▓реНрдЯрд╛ рдкреНрд░рд╛рдкреНрдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЕрдкрдиреЗ рдЗрдирдкреБрдЯ рдбреЗрдЯрд╛ рдФрд░ рдмреЗрд╕рд▓рд╛рдЗрди рдкрд░ рдПрд▓реНрдЧреЛрд░рд┐рджрдо рд▓рд╛рдЧреВ рдХрд░реЗрдВред
рд╡реИрдХрд▓реНрдкрд┐рдХ рдЯреВрд▓
рдлрд╛рдпрджреЗ & рдиреБрдХрд╕рд╛рди
рдХреЛрдИ рдбреЗрдЯрд╛ рдирд╣реАрдВ
рдЙрдкрдпреЛрдЧ рдХреЗ рдорд╛рдорд▓реЗ
- рдЫрд╡рд┐ рд╡рд░реНрдЧреАрдХрд░рдг рдореЙрдбрд▓ рдореЗрдВ рд╕реБрд╡рд┐рдзрд╛ рдорд╣рддреНрд╡ рдХреЛ рд╕рдордЭрдирд╛
- рдкрд╛рда рд╡рд░реНрдЧреАрдХрд░рдг рдореЙрдбрд▓ рдореЗрдВ рд╢рдмреНрджреЛрдВ рдХреЗ рдкреНрд░рднрд╛рд╡ рдХрд╛ рд╡рд┐рд╢реНрд▓реЗрд╖рдг рдХрд░рдирд╛
Captum ┬╖ Model Interpretability for PyTorch рдореВрд▓реНрдп
рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛ рд╕рдореАрдХреНрд╖рд╛рдПрдВ
рдЕрднреА рддрдХ рдХреЛрдИ рд╕рдореАрдХреНрд╖рд╛ рдирд╣реАрдВ
рдЗрд╕ рдЯреВрд▓ рдХреА рдкрд╣рд▓реА рд╕рдореАрдХреНрд╖рд╛ рдХрд░рдиреЗ рд╡рд╛рд▓реЗ рдмрдиреЗрдВ!