Contents Menu Expand Light mode Dark mode Auto light/dark mode
Tile Language
0.1.4 documentation
Light Logo Dark Logo
Tile Language
0.1.4 documentation

GET STARTED

  • Installation Guide
  • The Tile Language: A Brief Introduction

TUTORIALS

  • Writing High-Performance Kernels with the Tile Library
  • Writing High-Performance Kernels with Thread Primitives
  • Annotate Memory Layout
  • Debugging Tile Language Programs
  • Auto-Tuning Techniques for Performance Optimization
  • Just In Time Compilation
  • Pipelining Computation and Data Movement

DEEP LEARNING OPERATORS

  • ElementWise Operators
  • General Matrix-Vector Multiplication (GEMV)
  • General Matrix-Matrix Multiplication with Tile Library
  • General Matrix-Matrix Multiplication with Dequantization
  • Flash Attention
  • Flash Linear Attention
  • 🚀 Write High Performance FlashMLA with TileLang on Hopper
  • Convolution
  • TMAC: Look Up Table Based Mixed Precision Computing

LANGUAGE REFERENCE

  • Tile Language AST
  • Tile Language: Primitives
  • Tile Language: TileLibrary

API Reference

  • Python API
    • tilelang package
      • tilelang.autotuner package
        • tilelang.autotuner.param module
      • tilelang.cache package
        • tilelang.cache.kernel_cache module
        • tilelang.cache.tuner_cache module
      • tilelang.carver package
        • tilelang.carver.arch package
          • tilelang.carver.arch.driver package
            • tilelang.carver.arch.driver.cuda_driver module
          • tilelang.carver.arch.arch_base module
          • tilelang.carver.arch.cdna module
          • tilelang.carver.arch.cpu module
          • tilelang.carver.arch.cuda module
        • tilelang.carver.roller package
          • tilelang.carver.roller.policy package
            • tilelang.carver.roller.policy.common module
            • tilelang.carver.roller.policy.default module
            • tilelang.carver.roller.policy.tensorcore module
          • tilelang.carver.roller.shape_inference package
            • tilelang.carver.roller.shape_inference.common module
            • tilelang.carver.roller.shape_inference.tir module
          • tilelang.carver.roller.bestfit module
          • tilelang.carver.roller.hint module
          • tilelang.carver.roller.node module
          • tilelang.carver.roller.rasterization module
        • tilelang.carver.template package
          • tilelang.carver.template.base module
          • tilelang.carver.template.conv module
          • tilelang.carver.template.elementwise module
          • tilelang.carver.template.flashattention module
          • tilelang.carver.template.gemv module
          • tilelang.carver.template.general_reduce module
          • tilelang.carver.template.matmul module
        • tilelang.carver.analysis module
        • tilelang.carver.common_schedules module
        • tilelang.carver.matmul_analysis module
        • tilelang.carver.utils module
      • tilelang.common package
        • tilelang.common.transform_kind module
      • tilelang.contrib package
        • tilelang.contrib.cc module
        • tilelang.contrib.dlpack module
        • tilelang.contrib.hipcc module
        • tilelang.contrib.nvcc module
        • tilelang.contrib.rocm module
      • tilelang.engine package
        • tilelang.engine.callback module
        • tilelang.engine.lower module
        • tilelang.engine.param module
        • tilelang.engine.phase module
      • tilelang.intrinsics package
        • tilelang.intrinsics.mfma_layout module
        • tilelang.intrinsics.mfma_macro_generator module
        • tilelang.intrinsics.mma_layout module
        • tilelang.intrinsics.mma_macro_generator module
        • tilelang.intrinsics.utils module
      • tilelang.jit package
        • tilelang.jit.adapter package
          • tilelang.jit.adapter.ctypes package
            • tilelang.jit.adapter.ctypes.adapter module
          • tilelang.jit.adapter.cython package
            • tilelang.jit.adapter.cython.adapter module
            • tilelang.jit.adapter.cython.cython_wrapper module
          • tilelang.jit.adapter.base module
          • tilelang.jit.adapter.dlpack module
          • tilelang.jit.adapter.libgen module
          • tilelang.jit.adapter.utils module
          • tilelang.jit.adapter.wrapper module
        • tilelang.jit.env module
        • tilelang.jit.kernel module
        • tilelang.jit.param module
      • tilelang.language package
        • tilelang.language.tir package
          • tilelang.language.tir.entry module
          • tilelang.language.tir.ir module
          • tilelang.language.tir.op module
        • tilelang.language.allocate module
        • tilelang.language.builtin module
        • tilelang.language.copy module
        • tilelang.language.customize module
        • tilelang.language.fill module
        • tilelang.language.frame module
        • tilelang.language.gemm module
        • tilelang.language.kernel module
        • tilelang.language.logical module
        • tilelang.language.memscope module
        • tilelang.language.parallel module
        • tilelang.language.pipeline module
        • tilelang.language.print module
        • tilelang.language.proxy module
        • tilelang.language.reduce module
        • tilelang.language.warpgroup module
      • tilelang.layout package
        • tilelang.layout.fragment module
        • tilelang.layout.layout module
        • tilelang.layout.swizzle module
      • tilelang.math package
      • tilelang.primitives package
        • tilelang.primitives.gemm package
          • tilelang.primitives.gemm.base module
          • tilelang.primitives.gemm.gemm_mma module
      • tilelang.profiler package
        • tilelang.profiler.bench module
      • tilelang.quantize package
        • tilelang.quantize.lop3 module
        • tilelang.quantize.quantization module
        • tilelang.quantize.utils module
      • tilelang.testing package
      • tilelang.tools package
        • tilelang.tools.Analyzer module
        • tilelang.tools.plot_layout module
      • tilelang.transform package
        • tilelang.transform.pass_config module
        • tilelang.transform.simplify module
      • tilelang.utils package
        • tilelang.utils.deprecated module
        • tilelang.utils.language module
        • tilelang.utils.target module
        • tilelang.utils.tensor module
      • tilelang.env module

Privacy

  • Privacy
Back to top

tilelang.quantize package#

Submodules#

  • tilelang.quantize.lop3 module
    • get_lop3_intrin_group()
  • tilelang.quantize.quantization module
  • tilelang.quantize.utils module
    • gen_quant4()
    • general_compress()
    • interleave_weight()

Module contents#

Next
tilelang.quantize.lop3 module
Previous
tilelang.profiler.bench module
Copyright © 2025-2025, Tile Lang Contributors
Made with Sphinx and @pradyunsg's Furo
On this page
  • tilelang.quantize package
    • Submodules
    • Module contents