Ticket #10837: trac-10837-norms-condition-CDF-review2.patch

File trac-10837-norms-condition-CDF-review2.patch, 1.3 KB (added by Martin Raum, 11 years ago)
  • sage/matrix/matrix_double_dense.pyx

    # HG changeset patch
    # Parent 507f4fe306893a80f8cc6d60ff31dad3991ae670
    
    diff -r 507f4fe30689 sage/matrix/matrix_double_dense.pyx
    a b  
    803803            6.0
    804804            sage: A.norm(p=2)
    805805            7.99575670...
    806             sage: A.norm(p=-2)
    807             3.84592537...e-16
     806            sage: A.norm(p=-2) < 10^-15
     807            True
    808808
    809809        And over the complex numbers.  ::
    810810
     
    19771977            [  0.139 -0.3892 -0.2648  0.8713]
    19781978            [ 0.4361   0.359  0.7599  0.3217]
    19791979            [ -0.836  0.3945  0.1438  0.3533]
    1980             sage: T = T.zero_at(1.0e-12).change_ring(RDF)
    1981             sage: T.round(4)
    1982             [-13.5698      0.0      0.0      0.0]
    1983             [     0.0  -0.8508      0.0      0.0]
    1984             [     0.0      0.0   7.7664      0.0]
    1985             [     0.0      0.0      0.0  11.6542]
     1980            sage: T = T.zero_at(10^-12)
     1981            sage: #all(abs(e) < 10^-4 for e in (T - diagonal_matrix(RDF, [-13.5698, -0.8508, 7.7664, 11.6542])).list())
     1982            True
    19861983            sage: (Q*Q.transpose()).zero_at(1.0e-12)
    19871984            [1.0 0.0 0.0 0.0]
    19881985            [0.0 1.0 0.0 0.0]