Skip to main content

Table 2 Recall rates of clustering of mRNA simulated reads (10000 reads of length 200) for different measures, error rates, number of clusters and parameter k

From: Clustering of reads with alignment-free measures and quality values

  k =2   k =3
  (a)   (b)
Distance No errors 3 % 5 % 10 %   No errors 3 % 5 % 10 %
  2 clusters   2 clusters
\(D^{*}_{2}\) 0,815 0,813 0,810 0,801   0,822 0,819 0,814 0,794
\(D^{*q}_{2}\) AQP 0,815 0,815 0,813 0,810   0,822 0,822 0,820 0,809
\(D^{*q}_{2}\) AQP q-red 0,815 0,815 0,813 0,810   0,822 0,822 0,820 0,807
\(D^{*q}_{2}\) AWP 0,809 0,806 0,805 0,802   0,809 0,807 0,805 0,802
\(D^{*q}_{2}\) AWP q-red 0,809 0,806 0,805 0,802   0,809 0,807 0,805 0,802
L 2 0,811 0,807 0,806 0,801   0,810 0,806 0,805 0,801
KL 0,812 0,809 0,807 0,802   0,812 0,809 0,807 0,802
Symm, KL 0,812 0,809 0,807 0,802   0,812 0,808 0,806 0,802
D 2 0,811 0,807 0,806 0,801   0,809 0,806 0,805 0,800
  3 clusters   3 clusters
\(D^{*}_{2}\) 0,695 0,689 0,683 0,662   0,717 0,707 0,697 0,668
\(D^{*q}_{2}\) AQP 0,695 0,696 0,696 0,689   0,717 0,711 0,705 0,679
\(D^{*q}_{2}\) AQP q-red 0,695 0,696 0,696 0,691   0,717 0,712 0,704 0,681
\(D^{*q}_{2}\) AWP 0,653 0,646 0,646 0,638   0,668 0,662 0,655 0,646
\(D^{*q}_{2}\) AWP q-red 0,653 0,646 0,645 0,637   0,668 0,662 0,655 0,644
L 2 0,682 0,673 0,671 0,657   0,685 0,677 0,674 0,663
KL 0,694 0,687 0,685 0,672   0,696 0,689 0,687 0,675
Symm, KL 0,693 0,686 0,684 0,669   0,695 0,688 0,685 0,673
D 2 0,675 0,668 0,662 0,654   0,675 0,671 0,665 0,655
  4 clusters   4 clusters
\(D^{*}_{2}\) 0,623 0,613 0,606 0,574   0,627 0,616 0,591 0,551
\(D^{*q}_{2}\) AQP 0,622 0,621 0,618 0,602   0,628 0,617 0,602 0,572
\(D^{*q}_{2}\) AQP q-red 0,622 0,622 0,619 0,605   0,628 0,617 0,603 0,573
\(D^{*q}_{2}\) AWP 0,580 0,563 0,566 0,535   0,582 0,571 0,572 0,555
\(D^{*q}_{2}\) AWP q-red 0,580 0,560 0,565 0,533   0,582 0,570 0,570 0,555
L 2 0,554 0,551 0,547 0,540   0,568 0,565 0,553 0,543
KL 0,555 0,548 0,545 0,536   0,566 0,558 0,547 0,537
Symm, KL 0,556 0,549 0,546 0,538   0,562 0,554 0,547 0,539
D 2 0,553 0,547 0,547 0,538   0,556 0,549 0,548 0,540
  5 clusters   5 clusters
\(D^{*}_{2}\) 0,553 0,539 0,532 0,500   0,560 0,534 0,512 0,462
\(D^{*q}_{2}\) AQP 0,554 0,545 0,551 0,532   0,560 0,544 0,524 0,489
\(D^{*q}_{2}\) AQP q-red 0,553 0,544 0,550 0,533   0,561 0,545 0,531 0,487
\(D^{*q}_{2}\) AWP 0,483 0,475 0,470 0,463   0,509 0,494 0,485 0,470
\(D^{*q}_{2}\) AWP q-red 0,483 0,475 0,470 0,461   0,509 0,494 0,482 0,470
L 2 0,478 0,472 0,465 0,453   0,500 0,495 0,486 0,465
KL 0,498 0,488 0,484 0,468   0,507 0,501 0,492 0,476
Symm, KL 0,498 0,488 0,484 0,468   0,507 0,500 0,491 0,474
D 2 0,470 0,464 0,457 0,449   0,488 0,482 0,476 0,455
  1. Best results are in bold.