Skip to content

Is HRM suitable for text reasoning tasks on DNA sequences? #100

Description

@LeastDistinctive

您好!我正在研究DNA序列的功能预测任务,关注到HRM模型在层级推理任务上的优异表现,想咨询其对以下场景的适配性:

  1. 回归任务适配性:
    我的数据是长度为1000的ATGC碱基序列,目标是预测该序列对应的一个连续数值(如活性强度)。请问HRM模型在设计上是否支持此类回归任务?若需要改造,核心需调整哪些模块(如输出层、损失函数等)?

  2. 分类任务适配性:
    另一类任务是判断1000长度的碱基序列是否为增强子(二分类),或进一步细分为不同类型的调控元件(多分类)。HRM在ARC、Sudoku等分类任务上的经验是否可直接迁移?对于DNA序列的离散标签预测,是否需要特殊处理输入表示(如碱基嵌入方式)?

  3. 序列长度适配:
    模型默认配置中seq_len参数是否支持1000长度的输入?若序列长度超过预训练设置,是否需要调整位置编码(如RoPE)或层级循环参数(H_cycles/L_cycles)?适用DNA序列的分类或回归任务吗?

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions