Clustering of reads with alignment-free measures and quality values

Comin, Matteo; Leoni, Andrea; Schimd, Michele

doi:10.1186/s13015-014-0029-x

Algorithms for Molecular Biology

Table 2 Recall rates of clustering of mRNA simulated reads (10000 reads of length 200) for different measures, error rates, number of clusters and parameter k

From: Clustering of reads with alignment-free measures and quality values

	k =2				k =3
	(a)				(b)
Distance	No errors	3 %	5 %	10 %	No errors	3 %	5 %	10 %
	2 clusters				2 clusters
\(D^{*}_{2}\)	0,815	0,813	0,810	0,801	0,822	0,819	0,814	0,794
\(D^{q}_{2}\) AQP*	0,815	0,815	0,813	0,810	0,822	0,822	0,820	0,809
\(D^{q}_{2}\) AQP* q-red	0,815	0,815	0,813	0,810	0,822	0,822	0,820	0,807
\(D^{q}_{2}\) AWP*	0,809	0,806	0,805	0,802	0,809	0,807	0,805	0,802
\(D^{q}_{2}\) AWP* q-red	0,809	0,806	0,805	0,802	0,809	0,807	0,805	0,802
L ₂	0,811	0,807	0,806	0,801	0,810	0,806	0,805	0,801
KL	0,812	0,809	0,807	0,802	0,812	0,809	0,807	0,802
Symm, KL	0,812	0,809	0,807	0,802	0,812	0,808	0,806	0,802
D ₂	0,811	0,807	0,806	0,801	0,809	0,806	0,805	0,800
	3 clusters				3 clusters
\(D^{*}_{2}\)	0,695	0,689	0,683	0,662	0,717	0,707	0,697	0,668
\(D^{q}_{2}\) AQP*	0,695	0,696	0,696	0,689	0,717	0,711	0,705	0,679
\(D^{q}_{2}\) AQP* q-red	0,695	0,696	0,696	0,691	0,717	0,712	0,704	0,681
\(D^{q}_{2}\) AWP*	0,653	0,646	0,646	0,638	0,668	0,662	0,655	0,646
\(D^{q}_{2}\) AWP* q-red	0,653	0,646	0,645	0,637	0,668	0,662	0,655	0,644
L ₂	0,682	0,673	0,671	0,657	0,685	0,677	0,674	0,663
KL	0,694	0,687	0,685	0,672	0,696	0,689	0,687	0,675
Symm, KL	0,693	0,686	0,684	0,669	0,695	0,688	0,685	0,673
D ₂	0,675	0,668	0,662	0,654	0,675	0,671	0,665	0,655
	4 clusters				4 clusters
\(D^{*}_{2}\)	0,623	0,613	0,606	0,574	0,627	0,616	0,591	0,551
\(D^{q}_{2}\) AQP*	0,622	0,621	0,618	0,602	0,628	0,617	0,602	0,572
\(D^{q}_{2}\) AQP* q-red	0,622	0,622	0,619	0,605	0,628	0,617	0,603	0,573
\(D^{q}_{2}\) AWP*	0,580	0,563	0,566	0,535	0,582	0,571	0,572	0,555
\(D^{q}_{2}\) AWP* q-red	0,580	0,560	0,565	0,533	0,582	0,570	0,570	0,555
L ₂	0,554	0,551	0,547	0,540	0,568	0,565	0,553	0,543
KL	0,555	0,548	0,545	0,536	0,566	0,558	0,547	0,537
Symm, KL	0,556	0,549	0,546	0,538	0,562	0,554	0,547	0,539
D ₂	0,553	0,547	0,547	0,538	0,556	0,549	0,548	0,540
	5 clusters				5 clusters
\(D^{*}_{2}\)	0,553	0,539	0,532	0,500	0,560	0,534	0,512	0,462
\(D^{q}_{2}\) AQP*	0,554	0,545	0,551	0,532	0,560	0,544	0,524	0,489
\(D^{q}_{2}\) AQP* q-red	0,553	0,544	0,550	0,533	0,561	0,545	0,531	0,487
\(D^{q}_{2}\) AWP*	0,483	0,475	0,470	0,463	0,509	0,494	0,485	0,470
\(D^{q}_{2}\) AWP* q-red	0,483	0,475	0,470	0,461	0,509	0,494	0,482	0,470
L ₂	0,478	0,472	0,465	0,453	0,500	0,495	0,486	0,465
KL	0,498	0,488	0,484	0,468	0,507	0,501	0,492	0,476
Symm, KL	0,498	0,488	0,484	0,468	0,507	0,500	0,491	0,474
D ₂	0,470	0,464	0,457	0,449	0,488	0,482	0,476	0,455

Best results are in bold.

Back to article page

ISSN: 1748-7188

Contact us

General enquiries: journalsubmissions@springernature.com