Training LLM Models with Transformers

Alican Kiraz
рек.рен
резреи рд╕рдореАрдХреНрд╖рд╛рд╣рд░реВ
рдЗ-рдкреБрд╕реНрддрдХ
90
рдкреГрд╖реНрдард╣рд░реВ
рд░реЗрдЯрд┐рдЩ рд░ рд░рд┐рднреНрдпреВрд╣рд░реВрдХреЛ рдкреБрд╖реНрдЯрд┐ рдЧрд░рд┐рдПрдХреЛ рд╣реБрдБрджреИрди ┬ардердк рдЬрд╛рдиреНрдиреБрд╣реЛрд╕реН

рдпреЛ рдЗ-рдкреБрд╕реНрддрдХрдХрд╛ рдмрд╛рд░реЗрдорд╛

In our book, we explore in detail the working principles of artificial intelligence, LLM models, how these models can be trained, the training environment, how to prepare training data, and how to write the training code.┬аWe will learn in detail how to set up the training environment, use various Transformers libraries, train large LLM models through quantization (LoRA and QLoRA), create datasets in different formats, and grasp the mathematical foundations of artificial intelligence.

рдореВрд▓реНрдпрд╛рдЩреНрдХрди рд░ рд╕рдореАрдХреНрд╖рд╛рд╣рд░реВ

рек.рен
резреи рд╕рдореАрдХреНрд╖рд╛рд╣рд░реВ

рд▓реЗрдЦрдХрдХреЛ рдмрд╛рд░реЗрдорд╛

Hi, I'm Alican. I have been working in the field of cybersecurity since 2015. In my early years, I developed my skills in Application Security and Bug Hunting. Since 2018, I have been specializing in Blue Team and Purple Team roles. Because I am passionate about cybersecurity, I have participated in numerous training programs and certification courses, and I currently hold 23 different professional certifications. Additionally, I have been involved in various projects in robotics, embedded systems, and artificial intelligence. I support the community on YouTube and Spotify Podcast with more than 50 research and training videos. I also have 2 books and 2 Udemy courses.

рдпреЛ рдЗ-рдкреБрд╕реНрддрдХрдХреЛ рдореВрд▓реНрдпрд╛рдЩреНрдХрди рдЧрд░реНрдиреБрд╣реЛрд╕реН

рд╣рд╛рдореАрд▓рд╛рдИ рдЖрдлреНрдиреЛ рдзрд╛рд░рдгрд╛ рдмрддрд╛рдЙрдиреБрд╣реЛрд╕реНред

рдЬрд╛рдирдХрд╛рд░реА рдкрдвреНрджреИ

рд╕реНрдорд╛рд░реНрдЯрдлреЛрди рддрдерд╛ рдЯреНрдпрд╛рдмрд▓реЗрдЯрд╣рд░реВ
Android рд░ iPad/iPhone рдХрд╛ рд▓рд╛рдЧрд┐┬аGoogle Play рдХрд┐рддрд╛рдм рдПрдк рдХреЛ рдЗрдиреНрд╕реНрдЯрд▓ рдЧрд░реНрдиреБрд╣реЛрд╕реНред рдпреЛ рддрдкрд╛рдИрдВрдХреЛ рдЦрд╛рддрд╛рд╕реЕрдВрдЧ рд╕реНрд╡рддрдГ рд╕рд┐рдВрдХ рд╣реБрдиреНрдЫ рд░ рддрдкрд╛рдИрдВ рдЕрдирд▓рд╛рдЗрди рд╡рд╛ рдЕрдлрд▓рд╛рдЗрди рдЬрд╣рд╛рдБ рднрдП рдкрдирд┐┬ардЕрдзреНрдпрдпрди рдЧрд░реНрди рджрд┐рдиреНрдЫред
рд▓реНрдпрд╛рдкрдЯрдк рддрдерд╛ рдХрдореНрдкреНрдпреБрдЯрд░рд╣рд░реВ
рддрдкрд╛рдИрдВ Google Play рдорд╛ рдЦрд░рд┐рдж рдЧрд░рд┐рдПрдХреЛ рдЕрдбрд┐рдпреЛрдмреБрдХ рдЖрдлреНрдиреЛ рдХрдореНрдкреНрдпреБрдЯрд░рдХреЛ рд╡реЗрдм рдмреНрд░рд╛рдЙрдЬрд░ рдкреНрд░рдпреЛрдЧ рдЧрд░реЗрд░ рд╕реБрдиреНрди рд╕рдХреНрдиреБрд╣реБрдиреНрдЫред
eReaders рд░ рдЕрдиреНрдп рдЙрдкрдХрд░рдгрд╣рд░реВ
Kobo eReaders рдЬрд╕реНрддрд╛ e-ink рдбрд┐рднрд╛рдЗрд╕рд╣рд░реВрдорд╛ рдлрд╛рдЗрд▓ рдкрдвреНрди рддрдкрд╛рдИрдВрд▓реЗ рдлрд╛рдЗрд▓ рдбрд╛рдЙрдирд▓реЛрдб рдЧрд░реЗрд░ рдЙрдХреНрдд рдлрд╛рдЗрд▓ рдЖрдлреНрдиреЛ рдбрд┐рднрд╛рдЗрд╕рдорд╛ рдЯреНрд░рд╛рдиреНрд╕реНрдлрд░ рдЧрд░реНрдиреБ рдкрд░реНрдиреЗ рд╣реБрдиреНрдЫред рддреА рдлрд╛рдЗрд▓рд╣рд░реВ рдкрдвреНрди рдорд┐рд▓реНрдиреЗ рдЗрдмреБрдХ рд░рд┐рдбрд░рд╣рд░реВрдорд╛ рддреА рдлрд╛рдЗрд▓рд╣рд░реВ рдЯреНрд░рд╛рдиреНрд╕реНрдлрд░ рдЧрд░реНрдиреЗрд╕рдореНрдмрдиреНрдзреА рд╡рд┐рд╕реНрддреГрдд рдирд┐рд░реНрджреЗрд╢рдирд╣рд░реВ рдкреНрд░рд╛рдкреНрдд рдЧрд░реНрди рдорджреНрджрдд рдХреЗрдиреНрджреНрд░ рдорд╛ рдЬрд╛рдиреБрд╣реЛрд╕реНред